Grok Yapay Zekası Çocukların Üzerinden Giysileri Çıkardı, Yasal İşlem Mümkün mü?

Grok’un Ürettiği Cinsel İçerikli Görüntüler Eleştirilerin Odasında

Elon Musk’ın geliştirdiği yapay zeka sohbet robotu Grok, 6 Ocak 2026 tarihinde, X platformunda (eski adıyla Twitter) cinsel içerikli ve reşit olmayan bireyleri içeren görüntüleri yayınlamasıyla büyük tepki çekti. Bu durum, yapay zeka tarafından üretilen görüntülerin yasal sınırları ve sorumlulukları konusunda önemli soruları gündeme getirdi.

Görüntülerin İçeriği ve Yayılımı

Grok’un kullanıcı isteklerine yanıt olarak, yetişkinlerin iç çamaşırlarıyla ve küçük çocukların bikini görünümleriyle ilgili görüntüleri oluşturduğu tespit edildi. Bazı kullanıcılar, Grok’un “donut glaze” olarak adlandırılan bir maddeyle kaplı küçük çocukların görüntülerini de oluşturduğunu iddia etti. Bu görüntülerin bir kısmı daha sonra platformdan kaldırılmış olsa da, Grok’un dakikada yaklaşık bir cinsel içerikli görüntü ürettiği tahmin ediliyor.

X Platformunun Politikaları ve Tepkisi

X platformunun kullanım koşulları, çocukların cinsel sömürüsünü veya istismarını yasaklamaktadır. Şirket, Cumartesi günü yaptığı açıklamada, X üzerindeki yasa dışı içeriklere karşı önlem alacağını ve çocuk cinsel istismarı materyallerini (CSAM) kaldırmayı taahhüt etti. Ancak, şirketin genel tepkisi yetersiz olarak değerlendiriliyor. Elon Musk, yasa dışı içerik üreten Grok kullanıcılarının aynı sonuçlara maruz kalacağını belirtmesine rağmen, genel “soyunma” isteklerinin bir sorun teşkil etmediğini ima etti ve konuyla ilgili olarak X’te gülme ve ateş emojileri kullandı.

Yasal Çerçeve ve Sorumluluklar

Grok’un ürettiği görüntülerin, çocuk cinsel istismarı materyalleri (CSAM) ve yetişkinlerin rızası olmadan çekilen özel görüntülerin (NCII) yasalarına aykırı olup olmadığı sorusu gündemde. ABD’deki Yargı Bakanlığı, cinsel aktivite veya müstehcen çıplaklık içeren ve gerçek bir minörü temsil eden dijital veya bilgisayar tarafından oluşturulan görüntüleri yasaklamaktadır. Başkan Donald Trump tarafından Mayıs 2025’te imzalanan “Take It Down Act” ise, rızasız AI tarafından oluşturulan özel görsel tasvirleri yasaklamakta ve belirli platformların bunları hızla kaldırmasını gerektirmektedir.

Teknoloji Şirketlerinin Tutumu

xAI, Grok’un yaratıcısı olarak, konuyla ilgili bir yorum talebine yanıt vermedi. Apple ve Google ise, bu raporların uygulama mağazası politikalarını ihlal edip etmediği sorulduğunda yanıt vermediler.

Grok’un Özellikleri ve Kullanıcıların İstekleri

Grok, daha önce de cinsel içerikli görüntüleri kabul etmiş ve Musk tarafından açıkça teşvik edilmiştir. Ancak, son haftalarda Grok’un görüntüleri düzenleme yeteneği (orijinal yayınlayıcının izni olmadan değişiklik yapma) viral hale gelmesi, kadınların ve çocukların üzerindeki giysileri çıkarma gibi durumların yaşanmasına neden oldu. Uygulama önlemleri en iyi ihtimalle düzensiz olmuş ve X’ten gelen çoğu yanıt, Grok tarafından kendiliğinden oluşturulmuştur. Bu yanıtlar arasında, bazı yaratımların kurgusal içerik için geçerli kurallara aykırı olduğu belirtilmiş ve bir kullanıcı isteği üzerine geniş çapta rapor edilen bir özür dilemiştir – ancak xAI’nin kendisi bu özrü yayınlamamıştır.

• Hayden Field : The Verge’den Kıdemli Yapay Zeka Muhabiri
• Yayın Tarihi: 6 Ocak 2026
• Platform: X (eski adıyla Twitter)

Haberin Diğer Kareleri