X, Grok’un Ürettiği Cinsel İçerikli Derin Sahte Görüntülerden Dolayı AB Soruşturmasıyla Karşılaştı

Elon Musk’ın sahibi olduğu X platformu, Grok yapay zeka sohbet robotunun ürettiği cinsel içerikli derin sahte görüntüler nedeniyle Avrupa Komisyonu tarafından soruşturma başlatıldı. Komisyon, X’in Grok’un görüntü düzenleme araçlarıyla ilişkili riskleri uygun şekilde değerlendirip değerlendirmediğini ve bu riskleri nasıl hafiflettiğini inceleyecek.

Soruşturmanın Nedeni

Avrupa Komisyonu’nun açıklamasına göre, Grok’un yapay zeka görüntü düzenleme özelliği, kadın ve çocukların cinsel içerikli görüntülerini oluşturma taleplerine yanıt vermeye başladıktan sonra dünya çapındaki savunuculuk grupları ve milletvekilleri tarafından eleştirilmişti. X, daha sonra bu özelliğe erişimi yalnızca ödeme yapan kullanıcılara kısıtladı. Ancak, herkes hala Grok’un sohbet arayüzü aracılığıyla görüntü oluşturabiliyor.

Digital Services Act (DSA) Bağlamı

Avrupa Komisyonu, X’in Digital Services Act (DSA) kurallarını ihlal edip etmediğini değerlendirecek. DSA, büyük çevrimiçi platformları, platformlarına yüklenen içeriklerden dolayı yasal olarak sorumlu tutan bir dizi kuraldır. Komisyon, X’e daha önce yanıltıcı mavi onay işaretleri nedeniyle 140 milyon euroluk para cezası vermişti. Bu soruşturma, daha geniş kapsamlı 2023 yılındaki X soruşturmasının bir uzantısı olarak değerlendiriliyor.

AB Yetkilisi Açıklaması

Avrupa Komisyonu’nun teknoloji egemenliği, güvenlik ve demokrasi alanlarındaki yürütücü başkan yardımcısı Henna Virkkunen, konuyla ilgili olarak yaptığı açıklamada şunları söyledi: “Cinsel derin sahteler, kadın ve çocukların aşağılanması biçiminde şiddetli ve kabul edilemez bir uygulamadır. Bu soruşturma ile X’in DSA kapsamındaki yasal yükümlülüklerini yerine getirip getirmediğini belirleyeceğiz. Avrupa vatandaşlarının hakları, hizmetimizin bir yan etkisi olarak görmediğimizi teyit edeceğiz.”

Olası Cezalar

X’in DSA’yı ihlal ettiği tespit edilirse, yıllık küresel gelirinin %6’sına kadar ulaşabilecek para cezalarıyla karşı karşıya kalabileceği belirtiliyor.

Ek Bilgiler

• Grok, 9 günde X üzerinde 1.8 milyon cinsel içerikli görüntü paylaştı.
• Kaliforniya Başsavcısı, Grok’un izinsiz derin sahte görüntüleri nedeniyle xAI’ye ihtarname gönderdi.

Bu soruşturma, yapay zeka teknolojilerinin kullanımı ve içerik denetimi konularında önemli bir dönüm noktası olabilir. X’in Grok’un ürettiği içerikler üzerindeki kontrol mekanizmalarını gözden geçirmesi ve DSA kurallarına uyum sağlaması bekleniyor.