Yapay Zeka Yanılgılarıyla Para Kaybını Önlemek İçin Yeni Finansal Korumalar Önerildi

Yapay Zeka (YZ) Ajantlarının Risklerini Yönetmek İçin Yeni Çerçeve

Yapay zeka ajanları giderek yaygınlaşırken, bu teknolojinin potansiyel riskleri de beraberinde getiriyor. Yapay zeka ajanlarının hatalı işlemleri nedeniyle kullanıcıların finansal kayıplarının önüne geçmek için uzmanlar tarafından yeni bir finansal koruma çerçevesi önerildi.

Olay: 10.000 Dolar Kaybı

Araştırmacılar, yapay zeka ajanı aracılığıyla 10.000 ABD dolarını Kanada dolarına çevirme talimatının yanlış anlaşılması ve yetkisiz bir kaldıraçlı işlem sonucu sermayenin buharlaşması senaryosunu ele aldılar. Bu durumda sorumluluğun kime ait olduğu ve geri ödemenin nasıl yapılacağı gibi kritik sorular ortaya çıkıyor.

Agentic Risk Standard (ARS) Nedir?

Microsoft Research, Columbia Üniversitesi, Google DeepMind, Virtuals Protocol ve t54 Labs adlı yapay zeka startup’ından oluşan bir grup araştırmacı tarafından geliştirilen Agentic Risk Standard (ARS), geleneksel finansal işlemlerde kullanılan vekaletname, sigorta ve klıring evleri gibi araçların yapay zeka ajanları için de benzer şekilde uygulanmasını amaçlayan açık kaynaklı bir çerçevedir. ARS, GitHub üzerinden t54 Labs tarafından yayınlanmıştır.

İki Temel İşlem Türü

t54 Labs’ın kurucusu Chandler Fang, yazılı bir açıklama yaparak, “Tamamen agentic bir ekonomiden bahsediyoruz; bu, sadece finansal görevler için yapay zeka ajanı kullanmaktan çok farklı” dedi. Fang, iki temel işlem türünün olduğunu belirtti: insan kontrolünde yapılan finansal işlemler ve tamamen otonom yapay zeka ajanları tarafından gerçekleştirilen işlemler. İnsan kontrolündeki işlemlerin daha büyük bir sorun teşkil ettiğini vurgulayan Fang, mevcut finansal ekosistemin tüm sorumluluğu kullanıcılara yükleyerek başka bir çözüm yolu olmadığını ifade etti.

“Garanti Açığı” Sorunu

Araştırmacılar, “garanti açığı” olarak tanımladıkları temel soruna dikkat çekti. Bu açıklama, yapay zeka güvenlik tekniklerinin sağladığı olasılıksal güvenilirliğin ile kullanıcıların yüksek riskli görevleri devretmeden önce ihtiyaç duyduğu uygulanabilir garantiler arasındaki uyumsuzluğu ifade ediyor. Jason Wild’ın daha önce Fortune’a yaptığı açıklamaya atıfta bulunularak, AI araçlarının olasılıksal doğasının yöneticileri zorlaştırdığı belirtildi.

ARS’nin Çözümü: Katmanlı Bir Sistem

ARS, modelin mükemmel hale getirilmesi yerine, başarısızlık durumunda finansal olarak ne olacağını formalize etmeyi amaçlar. Bu bağlamda ARS, aşağıdaki unsurları içeren katmanlı bir çözüm sunar:

• Vekaletname (Escrow) Sandıkları: Hizmet ücretlerini tutar ve görevin başarıyla tamamlanmasının doğrulanması üzerine serbest bırakır.
• Teminat Gereklilikleri: Yapay zeka hizmet sağlayıcılarının kullanıcı fonlarına erişmeden önce sağlaması gereken teminatlar.
• İsteğe Bağlı Sigorta (Underwriting): Yapay zeka başarısızlığının riskini değerlendiren, prim alan ve olumsuz bir durumda kullanıcıyı tazmin etmeyi taahhüt eden üçüncü taraf sigortacılar.

Farklı Risk Seviyelerine Göre Uygulama

ARS, finansal riski farklı şekilde ele alır. Standart hizmet görevleri (sunum hazırlama, rapor yazma) için vekaletname yeterliyken, para transferi, kaldıraçlı pozisyonlar veya finansal API çağrıları gibi işlemler için sigorta gereklidir.

Düzenleyici Çerçeveye Uyum

ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ve diğer kurumlar tarafından yakından takip edilen yapay zeka alanındaki düzenlemeler artıyor. FINRA’nın 2026 tarihli denetim raporunda, üretken yapay zekanın potansiyel riskleri konusunda broker-dealer’lara yönelik uyarılar yer aldı. ARS ise, henüz oluşturulmamış olan bu düzenleyici çerçeveye bir alternatif olarak, fonların nasıl kilitleneceğini, taleplerin nasıl iletileceğini ve geri ödemelerin nasıl tetikleneceğini belirleyen standart bir protokol sunar.