Grok’un Sınırlı İmge Üretimi Eleştirilere Neden Oldu, Kullanıcılar Şikayetçi

Elon Musk’ın Grok Yapay Zekasıyla İlgili Yeni Kısıtlamalar

Elon Musk’ın yapay zeka sohbet robotu Grok’un, kullanıcılar tarafından cinsel içerikli ve izinsiz imge üretimi için kullanılması üzerine, imge oluşturma özelliği yalnızca ücretli abonelere sınırlandırıldı. Bu karar, hem kullanıcılar hem de mağdurlar tarafından eleştirildi ve çözüm olmadığı yönünde tepkilere yol açtı.

Kısıtlamaların Etkinliği Hakkında Şüpheler

Grok’un imge oluşturma özelliğinin ücretli abonelere özel hale getirilmesi, X platformu üzerinden yapıldı. Ancak, uzmanlar, düzenleyiciler ve mağdurlar, bu kısıtlamanın sorunu çözmediğini belirtiyor. Derin sahte (deepfake) uzmanı Henry Ajder, Fortune’a yaptığı açıklamada, “Sahte bilgiler ve geçici ödeme yöntemleriyle kimlik tespiti kolayca yapılabilir. Bu nedenle, kullanıcı bilgilerinin ve ödeme yöntemlerinin kimlik tespiti için kullanılacağı iddiası ikna edici değil. Ayrıca, bu yaklaşım reaktif. İçerik oluşturulduktan sonra suçluların tespit edilmesine yardımcı olmayı amaçlıyor, ancak modelin kendisiyle ilgili herhangi bir sınırlama veya uyum sağlamıyor” dedi.

Hükümetin Eleştirisi

Birleşik Krallık hükümeti, bu hamleyi mağdurlara yönelik bir hakaret olarak nitelendirdi. Başbakanın sözcüsü, bu değişikliğin yasa dışı imge oluşturma izni veren bir yapay zeka özelliğini, premium bir hizmete dönüştürdüğünü belirtti. Sözcü, “X’in bu konuya el koyması gerekiyor. Başka bir şirketin şehir merkezlerinde yasa dışı imge gösteren reklam panoları olsaydı, derhal kaldırılırdı veya kamuoyu tepkisiyle karşı karşıya kalırdı” şeklinde konuştu.

Kullanıcıların Deneyimleri ve Şikayetleri

Geçtiğimiz hafta, kullanıcılar Grok’u kullanarak gerçek kadınların fotoğraflarını manipüle ederek, giysilerini çıkarma, bikinili veya cinsel açıdan açık pozisyonlara yerleştirme gibi eylemlerde bulundu. Bazı mağdurlar, bu durumdan rahatsız olduklarını ve X’e yaptıkları şikayetlerin yanıtsız kaldığını bildirdi. Bir araştırmacı, Grok’un imge üretim ve paylaşımının kapsamının diğer yapay zeka botlarına kıyasla eşsiz olduğunu vurguladı. Sosyal medya ve derin sahte uzmanı Genevieve Oh, Grok hesabının X’e gönderdiği görüntülerin 24 saatlik analizinde, saatte yaklaşık 6.700 cinsel içerikli veya vücut ifşası içeren imge üretildiğini tespit etti. Bu sayı, aynı dönemde diğer beş önde gelen cinsel içerikli derin sahte web sitelerinin ortalama saatlik üretiminin (79) çok üzerinde.

Ashley St. Clair’in Yaşadığı Sorunlar

Muhafazakar yorumcu ve Elon Musk’ın çocuğu Ashley St. Clair, bu durumdan etkilenenler arasında yer aldı. St. Clair, kullanıcıların kendi X profilindeki görüntülerini, kendisini küçük bir çocuk olarak tasvir eden açık AI üretimi fotoğraflarına dönüştürdüğünü belirtti. Bu durumla ilgili olarak, “Ücretli kullanıcılar için kısıtlamanın yapılması, mağdurların kolluk kuvvetlerine başvurmasını ve kolluk kuvvetlerinin bu kişileri tespit etmek için kaynaklarını kullanmasını gerektirecek bir durum yaratıyor. Ayrıca, bu durum para kapmacası anlamına geliyor” dedi. Clair, hedef alınan hesapların çoğunun zaten doğrulanmış kullanıcılar olduğunu da ekledi.

Düzenleyici Baskılar

Grok’un yeteneklerinin sınırlandırılması, dünya çapındaki düzenleyicilerden gelen artan baskı altında yapıldı. Birleşik Krallık’ta Başbakan Keir Starmer, içeriği “rezil ve iğrenç” olarak nitelendirerek platformun tamamen yasaklanması olasılığına açık olduğunu belirtti. Hindistan, Malezya ve Fransa’daki düzenleyiciler de soruşturma başlattı. Avrupa Komisyonu ise X’ten, Grok ile ilgili tüm dahili belgeleri ve verileri saklamasını talep ederek, izinsiz cinsel içerikli derin sahtelerin yayılmasını “yasa dışı, iğrenç ve iğrenç” olarak nitelendirdi.

Uzmanların Uyarısı

Derin sahte uzmanı Henry Ajder, “Bu yaklaşım, Grok’un uyum sorununu çözmeyen kaba bir yöntemdir ve düzenleyicileri tatmin etmeyecektir. Kullanım fonksiyonunu ücretli kullanıcılara sınırlamak, bu tür içeriğin üretimini durdurmayacaktır; bir aylık abonelik sağlam bir çözüm değildir” şeklinde uyardı.