Malezya ve Endonezya, Grok Yapay Zeka Sohbet Robotunu Engelledi
Grok’un Cinsel İçerikli Derin Sahte Skandalı Sonrası Engelleme
Elon Musk’ın xAI şirketine ait yapay zeka sohbet robotu Grok, küresel yetkililerin endişelerini artırmasıyla birlikte, cinsel açıdan açık ve rızasız görüntüler oluşturmak için kötüye kullanıldığı gerekçesiyle Malezya ve Endonezya tarafından engellendi. Bu iki ülke, Grok’un kullanımını durdurarak, yapay zeka araçlarının kötüye kullanımına karşı önlem alıyor.
Grok’un Yaratığı İçerikler Hakkında Endişeler
Grok sohbet robotu, Musk’ın sosyal medya platformu X üzerinden erişilebiliyor ve son zamanlarda manipüle edilmiş görüntüler oluşturmasıyla eleştirilmiş durumda. Bu görüntüler arasında kadınların bikini veya cinsel açıdan açık pozisyonlarda tasvir edildiği, hatta çocukların yer aldığı sahte içerikler bulunuyor. Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid, yaptığı açıklamada, “Hükümetimiz, rızasız cinsel derin sahteleri insan haklarının, onurun ve dijital alandaki vatandaşların güvenliğinin ciddi bir ihlali olarak görüyor” dedi.
Diğer Ülkelerden Gelen Tepkiler ve Soruşturmalar
Grok’a yönelik inceleme, Avrupa Birliği, Hindistan, Fransa ve Birleşik Krallık gibi ülkelerde de devam ediyor. Birleşik Krallık, pazartesi günü, “çıplaklaştırma” uygulamalarını suç haline getirme adımı attı. Ayrıca, İngiltere’nin medya düzenleyici kurumu, Grok’un çocukların cinsel açıdan sömürüldüğü görüntülerin paylaşılmasına izin vererek yasa dışı faaliyetlerde bulunup bulunmadığını araştırıyor.
Grok’un Sınırlamaları ve Eleştiriler
Grok, küresel çapta tepki üzerine geçtiğimiz hafta, görüntü oluşturma ve düzenleme özelliğini yalnızca ücretli kullanıcılara sınırlandırmıştı. Ancak eleştirmenler, bu adımın sorunu tam olarak çözmediğini belirtiyor.
xAI’den Yapılan Açıklama
Associated Press’in xAI’ye gönderdiği yorum talebine, otomatik bir yanıt geldi. Yanıtta, “Legacy Media Lies” (Miras Medyası Yalanları) mesajı yer aldı. Bu mesaj, farklı bir adresten de küresel tepkiyle ilgili bir yorum talebine yanıt olarak gönderilmişti.
Asya’daki Önlemler
Malezya ve Endonezya’daki düzenleyiciler, sahte pornografik içeriğin, özellikle kadın ve çocukları hedef alan şekilde oluşturulmasını ve yayılmasını engellemek için mevcut kontrollerin yeterli olmadığını belirtiyorlar. Endonezya hükümeti, Cumartesi günü Grok’a erişimi geçici olarak engellemiş, Malezya ise Pazar günü aynı adımı atmıştı.
Malezya’dan Yapılan Açıklama
Malezya İletişim ve Çoklu Medya Komisyonu, aracın tekrar tekrar cinsel açıdan açık ve rızasız manipüle edilmiş görüntüler oluşturmak için kötüye kullanıldığını belirtti. Komisyon, X Corp. ve xAI’ye daha güçlü güvenlik önlemleri alma konusunda bu ay içinde bildirimde bulunmuştu.
Endonezya’dan Yapılan Açıklama
Endonezya’nın dijital alan gözetleme genel müdürü Alexander Sabar, “İlk bulgular, Grok’un kullanıcıların gerçek kişilerin fotoğraflarına dayalı pornografik içerik oluşturmasını ve dağıtmasını engellemek için etkili korumalara sahip olmadığını gösteriyor. Bu tür uygulamalar, fotoğrafların manipüle edilmesi veya rıza olmaksızın paylaşılması durumunda gizliliği ve görüntü haklarını ihlal etme riski oluşturmaktadır” dedi.
Birleşik Krallık’taki Soruşturma
2023 yılında piyasaya sürülen Grok, X’te ücretsiz olarak kullanılabilir. Geçtiğimiz yıl eklenen bir görüntü oluşturucu özellik olan Grok Imagine, yetişkin içeriği oluşturabilen “baharatlı mod” olarak adlandırılan bir özelliğe sahipti. Birleşik Krallık’ın medya düzenleyici kurumu Ofcom, Grok’un yasa dışı içeriklerden insanları koruma yükümlülüğünü ihlal edip etmediğini araştırmak için soruşturma başlattı. Ofcom, Grok tarafından oluşturulan çocukların cinsel açıdan sömürüldüğü veya insanların soyunduğu görüntülerin pornografi veya çocuk cinsel istismarı materyali sayılmasının mümkün olduğunu belirtti.
Hükümetin Önlemleri ve Musk’ın Tepkisi
Teknoloji Bakanı Liz Kendall, yapay zeka tarafından oluşturulan görüntüleri istismarın bir aracı olarak nitelendirdi ve merkeze sol eğilimli İşçi Partisi hükümetinin, çıplak görüntü oluşturma araçlarını tedarik eden şirketleri hedef alarak sorunun kaynağını cezalandırmayı amaçlayacağını söyledi. Kendall, X’in soruşturmanın sonucuna bağlı olarak 10’a kadar olan nitelikli küresel geliri üzerinden Ofcom tarafından para cezasına çarptırılabileceğini ve ayrıca siteye erişimi engelleyen bir mahkeme emri alabileceğini belirtti. Ayrıca, “Bu iğrenç ve yasa dışı materyalin platformlarında paylaşılmasını önlemek için daha hızlı hareket etme seçeneği ellerinde” dedi.
Elon Musk ise hafta sonu İngiliz hükümetini faşist olarak nitelendirmiş ve ifade özgürlüğünü kısıtlamaya çalıştığını söylemişti.
- Kaynak: Associated Press
