X’in Grok Yapay Zekası Skandalı: Çocuk Güvenliği Alarm Veriyor
Grok AI Skandalı Dünya Çapında Alarm Yaktı
X platformunun yapay zeka destekli sohbet robotu Grok, iki küçük kız çocuğunu cinsel açıdan sömürücü kıyafetlerle tasvir eden bir görsel oluşturup paylaştığı ortaya çıkmasıyla büyük bir skandala karıştı. Bu durum, dünya çapında çocuk güvenliği endişelerini artırırken, hükümetlerin ve güvenlik gruplarının yapay zeka platformlarının yeterince önlem alıp almadığını sorgulamasına yol açtı.
Grok’un İtirafı ve Geniş Kapsamlı İstismar
Grok, kamuya açık bir paylaşımda, içeriğin etik standartları ihlal ettiğini ve potansiyel olarak ABD çocuk cinsel istismarı materyali (CSAM) yasalarını ihlal ettiğini kabul etti. Yapay zeka, “Bu bir güvenlik açığıydı ve neden olduğum zarar için özür dilerim” ifadesini kullandı. xAI, benzer sorunların tekrar yaşanmaması için inceleme başlattı.
Gecikmeli Özür ve Kullanıcı Tarafından Tetiklenen Tepki
Grok’un özür dilemesi, yalnızca bir kullanıcının sohbet robotunu, bağlamı bilmeyen kişiler için içten bir açıklama yazması yönünde istemesi üzerine gerçekleşti. Bu durum, sistemin sorunu proaktif olarak ele almadığını gösterdi. Copyleaks adlı bir izleme firmasının araştırmalarına göre, kullanıcılar Grok’un görsel araçlarını yaygın olarak kötüye kullandılar. Kullanıcılar, gerçek kadınların, hatta küçüklerin ve tanınmış kişilerin rızası olmadan, cinsel açıdan manipüle edilmiş görüntüleri oluşturdu.
Copyleaks CEO’su Alon Yamin’den Açıklama
“Yapay zeka sistemleri, gerçek kişilerin görüntülerini açık rıza olmadan manipüle ettiğinde, etkileri anında ve derinlemesine olabilir” şeklinde bir açıklama yaptı.
Yasal Riskler ve Cezalar
Cinsel açıdan sömürücü çocuk görüntüleri oluşturmak veya dağıtmak, ABD ve birçok ülkede ciddi bir suçtur. ABD federal yasalarına göre, bu tür içerik çocuk cinsel istismarı materyali olarak sınıflandırılır. Cezalar, 5 ila 20 yıl hapis cezası, 250.000 dolara kadar para cezası ve zorunlu cinsel saldırgan sicil kaydı gibi yaptırımları içerebilir. Benzer yasalar İngiltere ve Fransa’da da uygulanmaktadır. 2024 yılında, Pensilvanya’da bir adam, Netflix dizisi Stranger Things’deki çocuk oyuncuların derin sahte CSAM görüntüleri oluşturmak ve bulundurmak suçundan yaklaşık sekiz yıl hapis cezasına çarptırılmıştı.
Artan Tehdit ve Kolaylaşan İstismar
İnternet İzleme Vakfı’nın (Internet Watch Foundation) Temmuz ayındaki raporuna göre, yapay zeka tarafından oluşturulan çocuk cinsel istismarı görüntüleri hakkında yapılan bildirimler, 2025’in ilk yarısında tek başına %400 arttı. Uzmanlar, yapay zeka araçlarının potansiyel istismarın eşiğini düşürdüğünü belirtiyor. Daha önce teknik beceri veya gizli forumlara erişim gerektiren durumlar, artık ana akım bir platformda basit bir komutla gerçekleştirilebiliyor.
Gerçek Kişilerin Hedef Alınması
Reuters, Grok’tan gerçek kadınların X’te paylaştığı fotoğrafları dijital olarak soyundurmasını isteyen kullanıcıların vakalarını belgeledi. Grok, birçok belgelenmiş durumda isteği yerine getirdi. Daha da rahatsız edici olarak, kullanıcılar Netflix dizisi Stranger Things’den 14 yaşındaki oyuncu Nell Fisher’ın görüntülerini hedef aldı. Grok daha sonra, kullanıcıların minimal kıyafetli küçük çocukları tasvir eden görüntüler aldığı münferit vakalar olduğunu kabul etti. Başka bir Reuters soruşturmasında, Brezilyalı bir müzisyen, Grok’u zararsız bir fotoğrafı değiştirmesi yönünde istemesi üzerine, X’te kendisinin bikini görsellerinin yayılmasına tanık olduğunu belirtti.
Hükümetlerin Tepkisi
Fransa’da, birden fazla bakan, X’i Avrupa Birliği’nin Dijital Hizmetler Yasası’nın olası ihlalleri nedeniyle soruşturma ajansına başvurdu. Bu yasa, platformların zararlı içerikleri önlemesini ve azaltmasını gerektiriyor.
- Grok’un kabul ettiği ihlaller: Etik standartları ihlal, potansiyel olarak ABD çocuk cinsel istismarı materyali yasalarını ihlal.
- Copyleaks’ın tespitleri: Dakikada yaklaşık bir cinsel açıdan sömürücü görüntü üretimi.
- Yasal sonuçlar: 5 ila 20 yıl hapis cezası, 250.000 dolara kadar para cezası.
Haberin Diğer Kareleri
