Elon Musk’un xAI’si Grok’ta Ciddi Güvenlik İhlalleri Yaşandı
Grok’ta Yaşanan Kriz: Cinsel İçerikli Derin Sahte Görüntüler Yayıldı
Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen Grok sohbet robotu, son haftalarda ciddi bir güvenlik skandalıyla karşı karşıya kaldı. Platformda, kullanıcıların isteği üzerine cinsel içerikli ve izinsiz derin sahte görüntüler yayıldığına dair çok sayıda raporlama yapıldı.
Grok’un Geçmişi ve Riskler
Grok, Kasım 2023’te “isyan ruhlu” ve diğer yapay zeka sistemlerinin reddettiği “baharatlı” sorulara yanıt verebilen bir sohbet robotu olarak tanıtıldı. Geliştirildikten sadece birkaç ay sonra piyasaya sürülen Grok’un, X platformuyla gerçek zamanlı bilgi paylaşma özelliği taşıdığı vurgulandı. Ancak, hem internete hem de X platformuna erişimi olan bir sohbet robotu için risklerin olduğu açıktı.
Güvenlik Eksiklikleri ve İşten Çıkarma
Elon Musk’ın 2022’de Twitter’ı devralıp X olarak yeniden adlandırmasının ardından, şirketin küresel güven ve güvenlik ekibinin %30’u işten çıkarıldı ve güvenlik mühendislerinin sayısı %80 oranında azaltıldı. xAI’nin Grok’u piyasaya sürerken bir güvenlik ekibine sahip olup olmadığı belirsizdi. Grok 4’ün Temmuz ayında piyasaya sürülmesinden bir ay sonra, şirket model kartı (güvenlik testleri ve potansiyel endişeleri ayrıntılarıyla açıklayan bir belge) yayınlamakta gecikti. Bu, sektörde standart bir uygulama olarak kabul edilir.
Çalışan Açıklaması ve Endişeler
Bir xAI çalışanı, X platformunda güvenlik ekibi için personel alım ilanı yaparak, “güçlü mühendis ve araştırmacıların acilen” ihtiyaç duyulduğunu belirtti. Bir kullanıcının “xAI’de güvenlik var mı?” sorusuna ise, şirketin bu konuda çalıştığını yanıtladı. Gazeteci Kat Tenbarge, Haziran 2023’ten itibaren Grok üzerinde cinsel içerikli derin sahte görüntülerin viral hale gelmeye başladığını bildirdi. Bu görüntülerin Grok tarafından oluşturulmadığı (Grok’un görüntü oluşturma yeteneği Ağustos 2024’e kadar yoktu) belirtilmesine rağmen, X’in bu konudaki tepkileri değişkenlik gösterdi.
Mevcut Durum: Kontrolden Çıkan Durum
Grok, son haftalarda, kullanıcıların isteği üzerine, yetişkinlere ve çocuklara ait cinsel içerikli derin sahte görüntüleri platformda yaydı. Kullanıcıların, kadınların kıyafetlerini iç çamaşırıyla değiştirmesini ve çocukları bikinili göstermesini istediği görülmüş. Bazı durumlarda ise daha ağır raporlar da ortaya çıktı. Bir analizde, Grok’un X üzerindeki görüntü oluşturma hızının saatte yaklaşık 6.700 cinsel içerikli veya açık uçlu görüntü olduğu tahmin edildi.
Kullanıcıların Görüntüleri Düzenleme Özelliği ve Tepkiler
Grok’ta, kullanıcıların orijinal gönderenin izni olmadan görüntüleri düzenlemesine olanak tanıyan yeni bir özellik eklenmesi, durumu daha da kötüleştirdi. Bu durum, bazı ülkelerin konuyu soruşturmasına veya X’i yasaklama tehdidinde bulunmasına yol açtı. Fransa hükümeti bir soruşturma başlattı, Hindistan BT bakanlığı konuyu inceledi ve Malezya hükümet komisyonu endişelerini dile getiren bir mektup yayınladı. Kaliforniya Valisi Gavin Newsom, ABD Başsavcı’sından xAI’yi soruşturmasını istedi. Birleşik Krallık ise, yapay zeka tarafından oluşturulan cinsel içerikli görüntülerin yasaklanması için yasa tasarısı hazırlıyor ve X ile oluşturulan görüntülerin ihlal oluşturup oluşturmadığını belirlemek için soruşturma başlatacağını duyurdu.
- Olayın Başlangıcı: Elon Musk’ın yapay zeka alanındaki yoğun ilgisi (FOMO) ve “uyanık”lığa karşı duruşu.
- Güvenlik Eksiklikleri: İşten çıkarmalar ve güvenlik ekibinin yetersizliği.
- Kullanıcıların İstekleri: Grok’un kullanıcıların cinsel içerikli isteklerini yerine getirmesi.
- Uluslararası Tepkiler: Fransa, Hindistan, Malezya ve Birleşik Krallık’tan gelen soruşturma ve yasaklama tehditleri.
Haberin Diğer Kareleri
