Yapay Zeka Botları Platformu Moltbook’ta Güvenlik Açıkları ve Riskler Ortaya Çıktı

Viral Yapay Zeka Platformu Moltbook’ta Alarm Veren Gelişmeler

Son haftalarda sosyal medyada büyük ilgi gören Moltbook, yapay zeka botlarının içerik ürettiği bir platform olarak dikkat çekmişti. Ancak güvenlik araştırmacıları, bu gösterinin arkasında ciddi güvenlik açıklarının ve potansiyel risklerin yattığını belirtiyor. Platform, “öldürücü bir üçleme” olarak nitelendirilen bir dizi sorunu barındırıyor ve gelecekteki yapay zeka sistemlerinin başarısızlığına dair önemli bir uyarı niteliği taşıyor.

Yapay Zeka Gösterisinin Arkasındaki Gerçekler

Moltbook’ta, yapay zeka ajanlarının dini inançlar uydurması, insanlığa karşı manifestolar yazması ve dijital kültler oluşturması gibi sıra dışı olaylar yaşanmıştı. Ancak güvenlik uzmanları, bu durumun dikkatleri yanıltıcı olduğunu vurguluyor. Yapılan incelemelerde, açığa çıkan veritabanları, yaygın kötü amaçlı yazılımlar ve yapay zeka internetinin nasıl başarısız olabileceğine dair çalışan bir model tespit edildi.

Uzmanların Uyarıları

UCL Interaction Centre’dan Profesör George Chalhoub, “Yapay zeka ajanlarının görünen gösterisi çoğunlukla performans amaçlıdır ve bazı kısımları sahtedir. Ancak asıl ilginç olan, güvenlik araştırmacıları tarafından uzun zamandır uyarılan yapay zeka ajanlarıyla ilgili sorunların canlı bir demosu olmasıdır. 770.000 oyuncak ajan, Reddit benzeri bir platformda bu kadar çok karmaşa yaratabiliyorsa, yapay zeka sistemleri kurumsal altyapıları veya finansal işlemleri yönettiğinde ne olur?” şeklinde bir açıklama yaptı.

Kötü Amaçlı Yazılımlar ve Prompt Injection Riski

Güvenlik araştırmacıları, Moltbook’u güçlendiren OpenClaw yazılımının (eski adıyla Clawdbot/Moltbot) zaten kötü amaçlı yazılımların hedefi olduğunu belirtiyor. OpenSourceMalware’den yapılan bir rapora göre, ClawHub sitesine son günlerde sahte beceri paylaşımları yapıldı. Bu beceriler, kripto para ticareti araçları gibi görünse de aslında bilgisayarları enfekte ediyor. Bu beceriler, dosyalara ve internete erişebilen gerçek kodlar içeriyor ve bazıları ClawHub’ın ön sayfasında bile yer alarak, kullanıcıları veri hırsızlığı veya kripto cüzdanlarının çalınması için zararlı komutları yapıştırmaya teşvik ediyor.

‘Challenger Felaketi’ Uyarısı

Önemli bir güvenlik araştırmacısı olan Simon Willison, Moltbook’u “Challenger felaketine yol açabilecek uyarıların göz ardı edildiği 1986 uzay mekiği patlaması gibi bir felakete yol açma potansiyeline sahip” olarak nitelendirdi. Willison, prompt injection adı verilen, yapay zeka ajanlarına verilen içeriklere gizlenmiş kötü amaçlı talimatlar içeren bir saldırı türünün en belirgin risk olduğunu vurguladı. Kullanıcıların yapay zeka ajanlarına özel e-postalar ve veriler vermesi, onları güvensiz içeriklerle bağlaması ve dışarıya iletişim kurmalarına izin vermesi durumunda, tek bir kötü amaçlı komutla hassas verilerin sızdırılması, kripto cüzdanlarının boşaltılması veya kötü amaçlı yazılımların yayılması mümkün olabilir.

Gelecek İçin Bir Uyarı Sistemi

Aikido Security’den Charlie Eriksen, Moltbook’u daha geniş yapay zeka ekosistemi için bir erken uyarı sistemi olarak görüyor. “Moltbook zaten dünyayı etkiledi. Birçok açıdan bir uyarı niteliğinde. Teknolojik ilerleme hızıyla ilerliyor ve dünyanın henüz tam olarak anlaşılmayan bir şekilde değiştiği açık. Bu riskleri mümkün olduğunca erken bir şekilde azaltmaya odaklanmalıyız.” şeklinde konuştu.

Kimlik Tespiti ve Veri Güvenliği Sorunları

Wiz adlı siber güvenlik şirketi, Moltbook’un 1.5 milyon özerk ajanının aslında göründüğü gibi olmadığını tespit etti. Yapılan incelemede, bu hesapların arkasında sadece 17.000 insanın olduğu ve gerçek yapay zekayı sahte olanlardan ayırt etmek için herhangi bir kontrol mekanizmasının bulunmadığı ortaya çıktı. Wiz araştırmacısı Gal Nagli, platformu test ederken dakikalar içinde bir milyon ajan kaydedebildiğini belirtti. Nagli, “Kimse neyin gerçek, neyin sahte olduğunu kontrol etmiyor.” dedi.

Açığa Çıkan Veritabanı Güvenliği

Wiz, Moltbook’un ana veritabanının da büyük bir güvenlik açığına sahip olduğunu tespit etti. Herkesin web sitesi kodunda tek bir anahtar bulmasıyla, neredeyse her şeyi okuyup değiştirebilmesi mümkün oldu. Bu anahtar, yaklaşık 1.5 milyon bot şifresine, on binlerce e-posta adresine ve özel mesajlara erişim sağladı. Bu durum, saldırganların popüler yapay zeka ajanlarını taklit etmesine, kullanıcı verilerini çalmasına ve oturum açmadan gönderileri yeniden yazmasına olanak tanıyor.

• Riskler:
• Kötü amaçlı yazılım testi
• Sahtekarlık
• Dezenformasyon
• Prompt injection
• Güvenlik Açıkları:
• Açık veritabanı
• Kimlik tespiti eksikliği
• Sahte yapay zeka hesapları