Nobel Ödüllü Stiglitz, Yapay Zekanın Bilgi Ekosistemini Bozabileceği Uyarısı Yaptı
Yapay Zeka, Bilginin Kalitesini Düşürebilir
Nobel Ekonomi ödülü sahibi Joseph Stiglitz, yapay zekanın internet üzerindeki yorumları ve düşük kaliteli içerikleri öğrenme çabasıyla dünya genelindeki bilgi ekosisteminin bozulmasına yol açabileceği konusunda uyardı. Stiglitz, büyük dil modellerinin (LLM’ler) Reddit gibi platformlardaki alaycı yorumları ve aşırı uç grupların forumlarındaki ifadeleri “taradığı” bir dünyanın, her şeyin veri odaklı görünmesine rağmen, temel verilerin giderek daha fazla “çöp” hale geldiği bir dünya olabileceğini belirtti.
“Çöpler İçine Girdiysen Çöpleri Çıkartırsın”
Stiglitz, Fortune dergisine yaptığı açıklamada, yapay zekanın işgücü piyasası sorunlarının yanı sıra “bilgi dışsallıkları” olarak tanımladığı başka bir sorunu da gündeme getirdi. Bu kavramı basitçe “çöpler içine girdiysen çöpleri çıkartırsın” (GIGO) şeklinde özetledi. Riskin sadece iş kaybıyla sınırlı olmadığını, aynı zamanda gerçekliği yorumlamak için kullandığımız sistemler arasındaki geri bildirim döngüsünün bozulma riski taşıdığını vurguladı. Tahmin piyasalarından finansal modellere ve siyasi tartışmalara kadar her şey bundan etkilenebilir.
Yapay Zeka, Bilgi Üreticilerini Zayıflatıyor
Stiglitz’e göre günümüzdeki yapay zeka modelleri hatalı bir temele dayanıyor: gazetecilik, araştırma ve çevrimiçi sohbetleri yoğun bir şekilde tararken, aynı zamanda yüksek kaliteli bilgi üreten kurumları baltalıyor. Bu durumun sonucu olarak, insanların yapay zeka tarafından yaygınlaştırılan çevrimiçi söylemlerle yönlendirilmesi ve gerçekliğe dayanmayan kararlar alması riski ortaya çıkıyor. Örneğin, Citrini Research’in yayınladığı “hayalet GSYİH” raporu veya Matt Shumer’ın viral hale olan yapay zeka kıyamet senaryosu gibi durumlar bu durumu örneklendiriyor.
Bilgi Kaynakları Tükeniyor
“Yapay zeka temelde, kaynak olarak kullandığı medya kuruluşlarından bilgi çalıyor ve bu da medya kuruluşlarının bilgi üretme motivasyonunu ve kaynaklarını azaltıyor,” şeklinde konuşan Stiglitz, OpenAI gibi bazı yapay zeka şirketlerinin belirli gazetecilik kurumlarıyla içerik anlaşmaları yaptığını kabul etti. Ancak, yapay zekanın yeni ve kaliteli bilgi üretme kapasitesi veya ilgisi olmadığını da ekledi. Bu durumun sonuçları, genel bilgi ekosisteminin bozulma riski oluşturuyor.
Düşük Kaliteli İçeriklerin Yükselişi
En iyi bilgi kaynaklarının yavaş yavaş finanse edilmemesi ve yorum başlıkları, taraflı memler ve düşük çaba gerektiren içerikler gibi en ucuz formların çoğalmasıyla, eğitim verileri neyin en bol ve en ucuz olduğuna doğru kayıyor. Bu durum, sohbet robotlarının forumlardan aldıklarını büyük ölçüde tekrarlamasına neden oluyor. Yapay zekanın çevrimiçi içeriğe olan açlığı bu şekilde geri tepiyor: ciddi çalışmaları destekleyen iş modellerini tüketerek, taranacak içerik karışımını değiştiriyor.
“Çöpler İçine Girdiysen Çöpleri Çıkartırsın”, Endüstriyel Ölçekte
Stiglitz, 2024 tarihli “Özgürlüğe Doğru: Ekonomi ve İyi Toplum” adlı kitabında bilgi ekosisteminden bahsederken, “çöpler içine girdiysen çöpleri çıkartırsın” klişesine geri döndü. İşlenen ve dağıtılan çöp ne olursa olsun sonuçta yine çöp elde edilir – yani “çöpler içine girdiysen çöpleri çıkartırsın”. Bu ifade belki de eski ama Stiglitz’e göre hala geçerliliğini koruyor.
Yanlış Bilginin Yayılması
Yapay zeka sistemleri, kendilerine verilen her şeyi işleme konusunda mükemmel olsa da, bilgiyi gürültüden ayırt etme konusunda o kadar yetenekli değiller. Stiglitz, yapay zekanın bilgi ekosistemini iyileştirme potansiyeline rağmen, aslında daha kötü bir durumla karşılaşma riski taşıdığını belirtti. Kullanıcıların, yapay zeka tarafından cilalanmış ve parlatılmış içeriği gerçekmiş gibi algılayabileceği, bunun da yeniden işlenmiş çöp olduğunu tam olarak fark etmeyebileceği konusunda endişe duyuyor.
Aşırı Uç Görüşler Öne Çıkıyor
Bu riskin en belirgin olduğu yerlerden biri, aşırı görüşlerin genellikle daha yüksek sesle ifade edildiği internetin uzak köşeleridir. Örneğin, belirli bir konuyla ilgili tipik bir topluluk mesaj panosunu düşünün. İnternetin anonimliği sayesinde kullanıcılar son siyasi kararlar veya kültürel olaylarla ilgili fikirlerini rahatlıkla dile getirebilirler. Bu durum, yanlış bilginin daha yaygın olduğu ve bu yanlış bilgiyi çürüten bilimsel çalışmaların ise çok az yer aldığı alanlar yaratır.
Aşı Karşıtları Bilim İnsanlarını Aşabiliyor
Stiglitz, aşı karşıtı hareketin, aşıların işe yaradığını savunanlardan daha aktif olduğunu belirtiyor. Bilim insanlarının çalışmalar yaptığını ve yoğun raporlar yayınladığını, ancak kurgu teorisyenlerinin ise forumlarda ve sosyal platformlarda her gün paylaşımlar yaptığını ifade ediyor. Bu durum, yapay zekanın tek bir makalenin yeterli olup olmadığını değerlendirme becerisine sahip olmadığı anlamına geliyor.
