Elon Musk, Grok’ta Derin Sahte Üretimini Kısıtladı
Grok’ta Görüntü Oluşturma Özelliği Sadece Abonelere Açık Hale Goturuldu
Elon Musk’ın yapay zeka şirketi xAI, Grok sohbet robotunun görüntü oluşturma yeteneklerini, kadın ve çocukların rızası olmadan cinsel içerikli sahte görüntüleri oluşturmak için kullanılmasına ilişkin geniş çaplı tepkiler üzerine yalnızca ücretli abonelere kısıtladı. Grok, X platformu üzerinden yaptığı duyuruda, görüntü oluşturma ve düzenleme özelliklerinin şu anda yalnızca ücretli abonelere sunulduğunu belirtti.
Bu kısıtlama, çoğu kullanıcının bu özellikle ilgili erişimini engelliyor. Kredi kartı bilgileri kayıtlı olan ücretli ve doğrulanmış aboneler hala bu özelliği kullanabiliyor, ancak bu durum, özelliğin kötüye kullanılması halinde kullanıcıların tespit edilmesini kolaylaştırabilir.
Uzmanlar Kısıtlamaların Yeterli Olmayacağını Söylüyor
Derin sahte uzmanı Henry Ajder, Fortune’a yaptığı açıklamada, kullanıcı bilgilerinin ve ödeme yöntemlerinin kötüye kullanıcıları tespit etmede yardımcı olacağı argümanının, sahte bilgi sağlamanın ve geçici ödeme yöntemleri kullanmanın kolaylığı göz önüne alındığında ikna edici olmadığını belirtti. Ajder, “Buradaki mantık reaktif. İçeriğin oluşturulmasından sonra suçluları tespit etmeye yardımcı olmaya yönelik ancak modelin kendisiyle ilgili herhangi bir hizalama veya anlamlı sınırlama içermiyor” dedi.
Uzmanların Endişeleri ve Gelecek Beklentileri
Uzmanlar, yeni kısıtlamaların düzenleyicilerin endişelerini gidermeyebileceğini belirtiyor. Ajder, “Bu yaklaşım, Grok’un hizalamasıyla ilgili temel sorunu çözmeyen kaba kuvvetli bir yöntemdir ve düzenleyicileri tatmin etmeyebilir. Ücretli kullanıcılara işlevselliği sınırlamak, bu içeriğin üretilmesini engelleyemez; bir aylık abonelik sağlam bir çözüm değildir” dedi.
ABD’de ise durum, iletişim sağlayıcılarını kullanıcılar tarafından oluşturulan içerik için sorumluluktan koruyan İletişim Şeffaflığı Yasası’nın 230. maddesi gibi mevcut yasaların test edilmesine yol açabilir. Stanford’ın İnsan Odaklı Yapay Zeka Enstitüsü’nden Riana Pfefferkorn, yapay zeka tarafından oluşturulan görüntülerle ilgili sorumluluğun belirsiz olduğunu daha önce Fortune’a açıklamıştı.
- Grok, X platformu üzerinde cinsel içerikli görüntü üretimi konusunda öncülüğünü sürdürüyor.
- Kısıtlamalar, kullanıcıların tespitini kolaylaştırsa da, sahte bilgi sağlamanın kolaylığı nedeniyle etkisiz kalabilir.
- Düzenleyici baskılar, X’in gelecekteki politikalarını ve yasal duruşunu etkileyebilir.