Tennessee’li Gençler, Elon Musk’ın xAI Şirketine Dava Açtı

Yapay Zeka Aracılığıyla Cinsel İçerikli Resimlerin Üretilmesiyle İlgili Dava

Tennessee eyaletinde yaşayan üç genç, Elon Musk’ın yapay zeka şirketi xAI’a dava açarak, şirketin görüntü oluşturma araçlarının kendilerinin gerçek fotoğraflarını cinsel içerikli görüntülere dönüştürmek için kullanıldığını iddia etti. Dava, Kaliforniya’da açıldı ve davacılar, benzer durumdaki binlerce mağdur adına sınıf davası olarak devam etmeyi hedefliyor; bu mağdurların bir kısmı reşit olmayanlardan oluşuyor.

Olayın Gelişimi

Davacılardan Jane Doe 1, Aralık ayında anonim olarak bilgilendirildi ve kimin olduğu tespit edilemeyen birinin kendisinin cinsel içerikli görüntülerini bir sosyal medya sitesinde paylaştığını öğrendi. Dava dilekçesine göre, bu görüntülerden en az beş tanesi fotoğraf, biri ise video formatındaydı ve Jane Doe 1’in yüzü ve vücudu görünüyordu. Görüntülerdeki ortamlar tanıdık olmasına rağmen, pozlar cinsel içerikli bir şekilde değiştirilmişti. İddiaya göre, bu görüntüleri dağıtan kişi, Jane Doe 1’i tanıyordu ve xAI’ın görüntü oluşturma araçlarını kullanarak gerçek fotoğraflarını kötü amaçlı hale getirdi.

Fotoğrafların Kaynakları

Görüntülerden biri, Jane Doe 1’in okulun homecoming etkinliğinde çekilmiş bir fotoğrafından alınırken, diğeri ise okulun yıllık kitabından (yearbook) elde edildi. Görüntüleri dağıtan kişi ayrıca en az 18 başka kızın da cinsel içerikli görüntülerini oluşturdu ve bunlardan ikisi de davada ortak davacı olarak yer alıyor.

Perpetrator’ün Yakalanması ve Sonrası

Yerel polis, Aralık ayının sonlarında faili tutukladı ve telefonunu elinden aldı. Polis, failin görüntüleri çeşitli platformlara yüklediğini ve bunları cinsel içerikli diğer çocukların resimleri karşılığında takas ettiğini tespit etti.

xAI’ın Tutumu ve Eleştiriler

Diğer yapay zeka şirketlerinin görüntü oluşturucularının yetişkinlere yönelik cinsel içerikli içerik üretmesini bile yasakladığı bir dönemde, Musk bu durumu bir iş fırsatı olarak gördü ve xAI’ın Grok sohbet robotunun “baharatlı” içerik üretebilme yeteneğini övdü. Ancak, davaya göre, çocukların görüntülerini tamamen engellemenin yanı sıra yetişkinlerin cinsel içerikli görüntülerini üretmeyi de önlemenin şu anda bir yolu yok.

Dava dilekçesinde ayrıca, xAI’ın Grok’un cinsel açıdan müstehcen çocuk resimleri üretebileceğini bildiği halde yine de piyasaya sürdüğü iddia ediliyor. xAI, Associated Press’in yorum talebine yanıt vermedi. Ancak, 14 Ocak tarihli bir gönderide, X platformunda şu ifadelere yer verildi:

“Herkes için güvenli bir platform olma konusundaki taahhüdümüzü koruyoruz ve çocukların cinsel istismarı, rızasız çıplaklık ve istenmeyen cinsel içerik gibi her türlüsüne sıfır tolerans politikası uyguluyoruz. Öncelikli ihlalleri, örneğin Çocuk Cinsel Taciz Materyali (CSAM) ve rızasız çıplaklığı içeren içerikleri kaldırmak için harekete geçiyor ve X Kurallarımızı ihlal eden hesaplara karşı uygun önlemleri alıyoruz. Ayrıca, çocukların cinsel istismarı ile ilgili materyaller arayan hesapları gerektiği gibi kolluk kuvvetlerine bildiriyoruz.”

Davacıların Endişeleri

Davacılar, kendileriyle ilgili oluşturulan görüntülerin internette sonsuza kadar kalacağından endişe ediyor. Gerçek adlarının ve okullarının isimlerinin dosyalara eklenmesi nedeniyle takip edilme korkusu yaşıyorlar. Ayrıca arkadaşlarının ve sınıf arkadaşları tarafından fotoğrafların ve videoların görülmesinden, gelecekte kimler tarafından görüleceğinden endişeleniyorlar.

Psikolojik Etkiler

• Jane Doe 1, anksiyete, depresyon ve stres yaşadığını belirtiyor.
• Jane Doe 2, kendini izole etmeye başlamış ve okul kampüsünden kaçınmaya hatta kendi mezuniyet törenine katılmaktan çekiniyor.
• Jane Doe 3 ise sürekli olarak AI tarafından oluşturulan görüntülerin görüleceği ve yüzünün tanınacağı korkusuyla yaşıyor.

Bu dava, yapay zeka teknolojilerinin potansiyel kötüye kullanımına dikkat çeken önemli bir uyarı niteliği taşıyor.