Anthropic’ten Yeni Yapay Zeka Modeli Mythos’un Erişimi Sınırlı Hale Getirildi

Yapay Zeka Güçlü Bir Siber Tehdit Yaratıyor

Siber güvenlik uzmanları ve politika yapıcılar arasında endişe yaratan gelişmeler yaşanıyor. Anthropic adlı şirket, son geliştirdiği yeni yapay zeka modeli Mythos’un erişimini kısıtladı. Şirket yetkilileri, modelin yazılım açıklarını bulma ve istismar etme konusundaki olağanüstü becerisinin, kontrolsüz bırakılması durumunda ciddi riskler taşıyabileceğini belirtti.

Sınırlı Erişim ve Amaç

Anthropic, Mythos’a erişimi yalnızca büyük teknoloji şirketlerinin bulunduğu küçük bir gruba verdi. Bu şirketlerin yazılımları, birçok dijital hizmetin temelini oluşturuyor. Şirketin amacı, savunma ekiplerine sistemlerini güçlendirme fırsatı tanımak.

Diğer Yapay Zeka Laboratuvarları da Benzer Çalışmalar Yürütecek

Anthropic yalnız değil. OpenAI de benzer bir strateji izliyor ve “Spud” olarak bilinen yeni bir model üzerinde çalışıyor. Bu modelin de Mythos’un siber güvenlik yeteneklerine yakın olacağı tahmin ediliyor. Axios’e göre, OpenAI ayrıca gelişmiş bir siber güvenlik sistemini aşamalı olarak küçük bir ortak grubuyla paylaşmayı planlıyor.

Pazarlama Stratejisi mi, Güvenlik Endişesi mi?

Bazı analistler, bu sınırlı yayınların arkasındaki motivasyonun yeni modeller etrafında heyecan yaratmaktan ziyade pazarlama stratejileri olabileceğini savunuyor. Ancak çoğu uzman, yapay zeka destekli siber yeteneklerin tehlikeli bir dönüm noktasına ulaştığı konusunda hemfikir.

Mevcut Yapay Zeka Modelleri Bile Tehdit Oluşturuyor

Hatta güçlü yeni modellere ihtiyaç duymadan bile, mevcut ve kamuya açık yapay zeka modelleri karmaşık siber saldırılar gerçekleştirebiliyor. Araştırmacılar, hem ölçek hem de erişilebilirlik açısından yapay zeka destekli saldırıların artışından endişe duyuyor.

Saldırıların Otomasyonu ve Riskler

Eskiden uzmanlık gerektiren görevler – örneğin kodda güvenlik açıklarını taramak veya birden fazla sömürücü zincirleme saldırıları çalıştırmak – artık yapay zeka sistemleri tarafından giderek daha fazla otomatikleştiriliyor. Bu durum, teknik becerileri yüksek olmayan saldırganların bile binlerce sisteme karşı büyük ve koordineli bir saldırı başlatmasına olanak tanıyor.

Altyapının Korunması İçin Çözümler Aranıyor

Bu durum, hem şirketler hem de politika yapıcılar için kritik altyapıyı koruma konusunda sorular ortaya koyuyor. Hükümet ve sektör savunmasını güçlendirmezse, bankacılık sistemleri, elektrik şebekeleri, hastaneler veya su sistemleri gibi hayati öneme sahip sistemlerin çökmesine neden olabilecek yıkıcı siber saldırılar dalgasıyla karşı karşıya kalınabilir.

Mythos’un Gerçek Etkisi Tartışmalı

Anthropic, Mythos’u yayınlamayı kısıtlayarak bu tür bir felaket senaryosunu önlemeyi umuyor. Ancak bazı araştırmacılar, yeni modellerin bu tür siber kıyametin olasılığını ne kadar artırdığı konusunda şüpheci yaklaşıyor. Şüpheciliğin nedeni ise pek de iç açıcı değil: Mythos’un yapabileceği birçok şeyin daha küçük, daha ucuz ve açık kaynaklı modellerle bile mümkün olabileceğini belirtiyorlar.

Açık Kaynak Modelleriyle Benzer Sonuçlara Ulaşmak Mümkün

AISLE adlı siber güvenlik firmasının yakın tarihli araştırması, Anthropic’in duyurusunda vurguladığı bazı güvenlik açıklarının – bunlardan bazıları onlarca yıllık hatalar – herkesin indirebileceği ve ücretsiz olarak çalıştırabileceği açık kaynaklı modeller tarafından bile tespit edilebildiğini gösteriyor.

Mythos’un Başarısının Arkasındaki Yöntem

Spencer Whitman, Gray Swan adlı siber güvenlik firmasının ürün yöneticisi, araştırmacıların Mythos ile başardığı zor kısmın, büyük kod tabanlarındaki güvenlik açıklarını otonom olarak bulmak ve bu istismarları test etmek olduğunu belirtiyor. Güvenlik açıklarını bulmanın zorluğu, milyonlarca satır kodun içindeki zayıf noktaları tespit etmeyi ve bunların gerçek bir sömürüye yol açıp açmadığını doğrulamayı gerektirmesinden kaynaklanıyor.

Daha Fazla Teknik Beceriler Gerekiyor

Charlie Eriksen, Aikido Security’deki bir güvenlik araştırmacısı, daha küçük modellerin Mythos’a benzer sonuçlar elde edebileceğini ancak bunun için daha fazla teknik beceri, dikkatli istemler ve daha iyi tasarlanmış araçlara ihtiyaç duyulduğunu söylüyor. Mythos gibi modeller ise daha az teknik bilgiye sahip kişilerin bile karmaşık ve yıkıcı siber saldırılar gerçekleştirmesini kolaylaştırabilir.

Hızlı Gelişim ve Kopyalama Riski

Teknolojinin bu kadar hızlı ilerlemesi, başkalarının benzer sonuçları elde edemeyeceği veya en azından çok yakında elde edemeyeceği varsayımının naif olacağını gösteriyor. Herkesin, özel bir donanım gerektirmeden kısa sürede çok güçlü saldırı yetenekleri geliştirebileceğini belirtiliyor.