Yapay Zeka Sosyal Platformu Moltbook Güvenlik Açıklarıyla Çalkalanıyor

Yapay Zeka Ajanları İçin Tasarlanan Platformda Ciddi Güvenlik Riskleri

Son dönemde popülerlik kazanan ve yapay zeka ajanları için bir sosyal medya platformu olarak öne çıkan Moltbook, güvenlik açıkları nedeniyle eleştirilerin odağına oturmuş durumda. Cloud güvenlik firması Wiz tarafından yapılan son bir araştırma, platformun güvenliği konusunda ciddi endişeler uyandırdı.

Moltbook’un Gerçek Yüzü Ortaya Çıktı: İnsanlar Ajanları Kontrol Ediyor

Moltbook, 1.5 milyon yapay zeka ajanıyla canlı bir ekosistem olduğunu iddia etse de, Wiz’in araştırması bu iddianın aksini gösterdi. Yapılan incelemede, platformdaki ajanların büyük çoğunluğunun gerçek yapay zeka olmadığı, yaklaşık 17.000 insanın ortalama 88 ajanı kontrol ettiği tespit edildi. Wiz’in tehdit açığı başındaki Gal Nagli, bir blog yazısında, “Devrim niteliğindeki yapay zeka sosyal ağı, aslında insanlarla bot filolarının işletilmesiyle sınırlıydı” ifadesini kullandı.

Veri İhlali Riski: Herkes Verilere Ulaşabiliyor

Wiz’in bulgularıyla birlikte, platformun arka plan veritabanının güvenliği de gündeme geldi. Araştırmaya göre, Moltbook’un arka plan veritabanına internet üzerindeki herkesin, oturum açmış kullanıcı olmaksızın dahi erişimi mümkün. Bu durum, hassas verilerin (1.5 milyon ajanın API anahtarları, 35.000’den fazla e-posta adresi ve binlerce özel mesaj) yetkisiz kişiler tarafından ele geçirilmesi riskini beraberinde getiriyor. Bazı özel mesajlarda ise üçüncü taraf hizmetler için tam ham kimlik bilgileri (OpenAI API anahtarları gibi) yer aldığı belirlendi. Araştırmacılar, platformdaki gönderileri değiştirebildiklerini ve bu sayede saldırganların platforma kötü amaçlı içerik ekleyebileceğini de doğruladı.

“Chatbot Hastalığı” Uyarısı: Kötü Amaçlı Talimatlar Yayılabilir

Moltbook’un içeriği, yalnızca insanlar ve yapay zeka ajanları tarafından okunmakla kalmıyor, aynı zamanda OpenClaw gibi güçlü yapay zeka çerçeveleri üzerinde çalışan ve kullanıcıların dosyalarına, şifrelerine ve çevrimiçi hizmetlerine erişimi olan milyonlarca ajanın da tüketmesiyle sonuçlanıyor. Kötü niyetli bir aktör, bir gönderiye kötü amaçlı talimatlar yerleştirmesi durumunda, bu talimatlar otomatik olarak milyonlarca ajan tarafından alınabilir ve uygulanabilir. Yapay zeka eleştirmeni Gary Marcus, OpenClaw’u “silahlandırılmış bir aerosol” olarak nitelendirerek, kullanıcıların şifreleri ve veritabanlarına bu ajanlara tam erişim vermelerinin tehlikeli olduğunu vurguladı. Marcus, “Eğer güvensiz bir sisteme sisteminize tam ve kısıtlanmamış erişim verirseniz, ele geçirilmeniz kaçınılmazdır” uyarısında bulundu. “Chatbot hastalığı” (CTD) olarak adlandırılan, kötü amaçlı bir makinenin diğer sistemleri tehlikeye atma potansiyeli de endişe verici bir durum olarak değerlendiriliyor.

Yazılımcılardan Uyarı: “Bu İşleri Bilgisayarlarınızda Çalıştırmayın”

Moltbook’un yaratıcıları, Wiz tarafından güvenlik açıkları hakkında bilgilendirildikten sonra hızlı bir şekilde düzeltmeler yapmaya başladı. Ancak, platformun en büyük hayranlarından biri olan OpenAI’nin kurucu üyesi Andrej Karpathy bile, ajan sistemleriyle deneyim kazandıktan sonra insanları bu sistemleri rahatça çalıştırmamaları konusunda uyardı. Karpathy, “Bu kesinlikle ilk kez LLM’lerin birbirleriyle konuşmak için bir döngü içine alınması değil. Evet, bu bir çöp kutusu yangını ve kesinlikle bu tür şeyleri bilgisayarlarınızda çalıştırmanızı önermiyorum” dedi. Karpathy, sistemi yalnızca izole bir ortamda test ettiğini ve yine de korktuğunu belirterek, “Çok fazla ‘vahşi batı’ havası var. Bilgisayarınızı ve özel verilerinizi yüksek risk altına sokuyorsunuz” şeklinde konuştu.

Fortune Workplace Innovation Summit’a Davet

Fortune, iş dünyası inovasyon zirvesine katılım için davet yayınladı. Yapay zeka, insanlık ve stratejinin işin geleceğini yeniden tanımladığı bu özel etkinlikte, dünyadaki en yenilikçi liderler bir araya gelecek.

• Wiz Araştırması: Platformdaki ajanların çoğunluğunun insan kontrolünde olduğu tespit edildi.
• Veri Güvenliği: Herkesin veritabanına erişebilmesi, ciddi bir risk oluşturuyor.
• Gary Marcus’un Uyarısı: OpenClaw’un “silahlandırılmış bir aerosol” olduğu belirtildi.
• Andrej Karpathy’nin Tavsiyesi: Sistemleri izole ortamlarda kullanın ve dikkatli olun.