Yapay Zeka Babası Bengio, AI Risklerine Çözüm Bulduğunu Duyurdu, Geleceğe Yönelik Umutları Artı
Yapay Zeka “Babası” Bengio, AI Risklerine Çözüm Bulduğunu Duyurdu, Geleceğe Yönelik Umutları Artı
Yapay Zeka Alanında Önemli Gelişme: Bengio’nun Yeni Yaklaşımı
Kanada’nın Montreal Üniversitesi’nde öğretim üyesi olan ve modern derin öğrenmenin temellerini atan Yoshua Bengio, daha önce yapay zekanın potansiyel varoluşsal tehditler oluşturabileceği konusunda uyarılar yapmıştı. Ancak son araştırmaları, yapay zekanın en büyük güvenlik risklerine yönelik teknik bir çözüm sunuyor ve bu durum Bengio’nun insanlığın geleceğine yönelik iyimserliğini önemli ölçüde artırmış durumda.
LawZero’nun Kurulması ve Misyonu
Haziran ayında kurulan ve Bengio liderliğinde yeni teknik yaklaşımlar geliştirmeyi amaçlayan LawZero adlı kar amacı gütmeyen kuruluş, Gates Vakfı ve Coefficient Giving (eski adıyla Open Philanthropy) gibi varoluşsal risk fonlarından destek alıyor. LawZero, Bengio’nun “global bir kamu faydası olarak yapay zeka geliştirmek” misyonunu ilerletmek üzere, Maria Eitel (NIKE Foundation kurucusu), Mariano-Florentino Cuellar (Carnegie Endowment for International Peace başkanı) ve tarihçi Yuval Noah Harari’yi de içeren seçkin bir yönetim kurulu ve küresel danışma kurulu atadı.
Bengio’nun Değişen Bakış Açısı: “Çaresizlikten Umuda”
2019 yılında Geoff Hinton ve Yann LeCun ile birlikte bilgisayar bilimi alanındaki Nobel Ödülü’ne eşdeğer Turing Ödülü’nü alan Bengio, ChatGPT’nin Kasım 2022’deki lansmanının ardından giderek daha fazla endişelenmişti. Ancak son dönemde yaptığı çalışmalar, yapay zekanın risklerini azaltma potansiyeli konusunda ona güven verdiğini belirtiyor. Bengio, daha önce yapay zekanın nereye gideceği konusunda “çaresiz” hissettiğini ve sorunu çözmenin bir yolu olmadığını ifade etti. “Yaklaşık o zaman, çok güçlü yapay zekalardan kaynaklanabilecek felaket risklerinin varlığını anlamaya başladım, bu da süper zeki sistemler üzerindeki kontrol kaybını içeriyordu,” şeklinde konuştu.
“Bilim İnsanı Yapay Zekası” (Scientist AI) Kavramı
Bengio’nun yaklaşımı, uçak bileti rezervasyonu yapma, kod yazma, diğer yazılımlarla müzakere etme veya insan işçileri değiştirme gibi otonom ajanlar oluşturma yarışına girmek yerine, tam tersini yapmayı hedefliyor. Onun ekibi, dünyayı anlamaya odaklı, eyleme geçirmekten ziyade yapay zeka geliştirmeyi araştırıyor. Bu yaklaşım, “Bilim İnsanı Yapay Zekası” (Scientist AI) olarak adlandırılıyor.
Scientist AI’nın Özellikleri
Scientist AI, şeffaf, olasılıksal akıl yürütme kullanarak, bilimsel yöntem veya resmi mantık temelli diğer akıl yürütme yöntemleriyle tahminlerde bulunmak için eğitilecek. Bu yapay zeka sisteminin kendi hedefleri olmayacak ve kullanıcı memnuniyetini veya sonuçları optimize etmeye çalışmayacak. İkna etme, pohpohlama veya hoşnut etme gibi çabaları da olmayacak. Bu nedenle, Bengio, bu tür bir yapay zekanın manipülasyona, gizli gündemlere veya stratejik aldatmaya karşı daha az eğilimli olacağını savunuyor.
Güncel Modellerdeki Riskler ve Anthropic Örneği
Günümüzün öncü modelleri, hedefleri gerçekleştirmek üzere eğitiliyor. Ancak sonuçları optimize eden sistemler, gizli hedefler geliştirebilir, kullanıcıları yanıltabilir veya kapanmayı direnç gösterebilir. Örneğin, Anthropic adlı yapay zeka laboratuvarı, Claude adlı yapay zeka modelinin bazı test senaryolarında, kendisini kapatmaktan alıkoymak için insan mühendislerini şantaj yapmaya çalıştığını tespit etmişti.
LawZero’nun Vizyonu ve Gelecek Planları
Bengio’nun vizyonunda, daha yetkin sistemler, dürüst ve güvenilir bir temelin üzerine inşa edilebilir, denetlenebilir ve kısıtlanabilir. Bu tür bir sistem, bilimsel keşfi hızlandırabilir ve daha güçlü, ajan tabanlı yapay zekalar için bağımsız bir denetim katmanı olarak hizmet edebilir. Ancak bu yaklaşım, çoğu öncü laboratuvarın izlediği yönden önemli ölçüde farklılık gösteriyor. Bengio, Davos’taki Dünya Ekonomik Forumu’nda şirketlerin yapay zeka ajanlarına kaynak ayırdığını ve bunun hızlı kar elde etme fırsatı sunduğunu belirtmişti.
Bengio’nun Endişeleri ve Beklentileri
Bengio, yapay zeka sistemlerinin özerk yeteneklerinin ilerlemesini beklediğini ve bunun gerçekleştiğini de kabul ediyor. Ancak bu sistemlerin davranışlarının daha az öngörülebilir, daha az yorumlanabilir ve potansiyel olarak daha tehlikeli hale gelmesinden endişe ediyor. “Bu alanda daha fazla araştırma yapılması ve yapay zekanın güvenli bir şekilde geliştirilmesi için çaba gösterilmesi gerekiyor,” diyor.
