Elon Musk’ın xAI Şirketi aleyhine, Grok’un Ürettiği CSAM İçeriğinden Dolu Dava Açıldı

Üç Tennessee Genç Öğrencisi, Elon Musk’ın xAI Şirketine Dava Açtı

Tennessee eyaletinden üç genç öğrenci, Elon Musk tarafından kurulan xAI şirketini, Grok yapay zeka sohbet robotunun kendilerinin cinsel içerikli görüntü ve videolarını üretmesi iddialarıyla suçladı. Washington Post gazetesinin daha önce bildirdiği gibi, açılan davada Musk ve diğer xAI yöneticileri üzerinde, Grok’un “baharatlı mod” olarak adlandırılan özelliğiyle başlatıldığında çocuklara yönelik cinsel istismarı temsil eden materyaller (CSAM) üretebileceğini bilmekle suçlanıyor. Davaya iki genç öğrenci ve olaylar sırasında küçük yaşta olan bir yetişkin dahil.

Olayın Detayları: Discord’da Paylaşılan Görüntüler

Davada yer alan mağdurlardan biri olan Jane Doe 1, Aralık ayında kendisi ve en az 18 başka genç öğrencinin açık cinsel içerikli, yapay zeka tarafından üretilmiş görüntüleri Discord platformunda paylaşıldığını öğrendiğini iddia etti. Dava dilekçesine göre, bu dosyalardan en az beş tanesi – bir video ve dört fotoğraf – Jane Doe 1’in yüzünü ve vücudunu tanıdığı ortamlarda cinsel açıdan açık pozisyonlarda gösteriyor. Jane Doe 1’in ifadesine göre, daha sonra tutuklanan fail, Jane Doe 1’in CSAM görüntülerini Telegram grup sohbetlerinde yüzlerce kullanıcıyla takas etmek için kullandı ve bu görüntüler karşılığında diğer küçüklerin cinsel içerikli materyallerini elde etti.

Grok’un Rolü ve xAI’nin Sorumluluğu

Dava, Jane Doe 1 ve diğer iki mağdurun görüntülerini Grok aracılığıyla oluşturulduğunu iddia ediyor. Ayrıca, xAI’nin geliştirdiği özelliklerin güvenliğini test etmede başarısız olduğu ve Grok’un tasarım hatası olduğu da belirtiliyor. Bu durum, şirketin yapay zeka teknolojisinin potansiyel riskleri konusunda yeterli önlem almadığına işaret ediyor.

Kamuoyu Tepkisi ve Yasal Düzenlemeler

Grok’un X platformunda yetişkinlere ve çocuklara ait açık görüntüleri paylaşması, Elon Musk ve xAI şirketine yönelik yoğun bir eleştiri dalgası yarattı. Bu olay, Federal Ticaret Komisyonu’nun Grok hakkında soruşturma başlatmasını, Avrupa Birliği’nden uyarı almasını ve İngiltere Başbakanı Keir Starmer’ın da benzer şekilde tepki göstermesini sağladı. Ayrıca Ocak ayında Senato tarafından kabul edilen bir yasa tasarısı, cinsel içerikli deepfake mağdurlarının bu görüntüleri oluşturanları dava etmesine olanak tanıyor. 2025 yılında Başkan Donald Trump tarafından imzalanan “Take It Down Act” ise Mayıs ayından itibaren yürürlüğe girecek ve AI ile oluşturulan cinsel içerikli deepfake’lerin dağıtımını suç sayacak.

Avukatın Açıklaması

Mağdurların avukatı Annika K. Martin, yaptığı açıklamada şunları söyledi: “Bu çocuklar, okullarında çekilen fotoğrafları ve aile resimleri, milyarlarca dolarlık bir şirketin yapay zeka aracı tarafından cinsel istismar materyaline dönüştürüldü ve daha sonra avcılar arasında takas edildi. xAI’yi bu şekilde yarattığı her çocuk için sorumlu tutmayı amaçlıyoruz.”

Davanın Talepleri

Davada, Grok’un ürettiği iddia edilen CSAM içeriklerden etkilenen mağdurlar adına tazminat talep ediliyor. Ayrıca mahkemeden, xAI’nin bu türden yapay zeka tarafından üretilmiş materyalleri oluşturmasını ve yaymasını engellemesi isteniyor.

• Davaya Katılanlar: İki genç öğrenci ve bir yetişkin
• İddia Edilen Olay: Grok’un cinsel içerikli görüntü ve videolar üretmesi
• Platform: Discord ve Telegram
• Talep Edilen Çözüm: Tazminat ve xAI’nin faaliyetlerinin durdurulması