Yapay Zeka Babası Endişeli: Şirketler Kısa Vadeli Kârlara Odaklanıyor
Yapay Zeka “Babası” Endişeli: Şirketler Kısa Vadeli Kârlara Odaklanıyor
Yapay Zekanın Geleceği Hakkında Tartışma
Dünyaca ünlü bilgisayar bilimcisi Geoffrey Hinton, yapay zeka (YZ) alanındaki şirketlerin uzun vadeli sonuçlar yerine kısa süreli kârları önceliklendirdiğini belirtti. “Yapay zeka babası” olarak da bilinen Hinton, Elon Musk’ın insanlığın geleceğiyle ilgili YZ vizyonuna karşılık, sektör liderlerinin bu konuya yeterince odaklanmadığını vurguladı.
Elon Musk’ın Vizyonu ve Anlam Arayışı
Elon Musk, daha önce Viva Technology konferansında yaptığı konuşmada, yapay zekanın tüm işleri ele geçirebileceği bir geleği öngördüğünü ve bunun da evrensel temel gelirle mümkün olabilecek teorik bir bolluğa yol açabileceğini söylemişti. Ancak bu senaryonun gerçekleşmesi durumunda bile insanlığın anlam arayışının ön planda olması gerektiğini belirtmişti: “Eğer bir bilgisayar—ve robotlar—her şeyi sizden daha iyi yapabiliyorsa… hayatınızın bir anlamı var mı?”
Hinton’un Endişeleri ve Kısa Vadeli Odaklanma
Geoffrey Hinton, Toronto Üniversitesi Bilgisayar Bilimleri emekli profesörü olarak yaptığı açıklamada, büyük teknoloji şirketlerinin YZ geliştirme sürecinde uzun vadeli sonuçları değil, hızlı sonuçları daha çok önemsediğini ifade etti. Şirket sahiplerinin araştırmaları kısa süreli kârlarla yönlendirdiğini ve geliştiricilerin de genellikle hemen çözülmesi gereken sorunlara odaklandığını dile getirdi. Hinton, “Araştırmacılar meraklarını gidermek için problemler çözmeye çalışırlar. İnsanlığın geleceği gibi bir hedefle başlamayız. Örneğin, görüntüleri tanıyabilen bir bilgisayar nasıl yapılır ya da ikna edici videolar üretebilen bir bilgisayar nasıl yapılır gibi küçük hedeflerimiz olur.” şeklinde konuştu.
Yapay Zekanın Potansiyel Riskleri ve Önleyici Tedbirler
Hinton, daha önce YZ’nin kontrolsüz gelişimi konusunda uyarılarda bulunmuş ve süper zeka gelişiminden sonra teknolojinin insanlığı yok etme olasılığının %10 ila %20 arasında olduğunu tahmin etmişti. 2023 yılında Google’a sattığı DNNresearch adlı sinir ağı şirketinden ayrılan Hinton, YZ’nin kötü niyetli kişilerin elinde kullanılmasına karşı endişelerini dile getirmiş ve bu konuda serbestçe konuşabilmek için kendi rolünden ayrılmıştı.
Kötü Niyetli Kullanım ve Siber Saldırılar
Hinton, YZ’nin risklerini iki kategoriye ayırdığını belirtti: Teknolojinin kendisinin insanlık geleceği üzerindeki riski ve YZ’nin kötü niyetli kişiler tarafından manipüle edilme sonucu ortaya çıkabilecek sonuçlar. Kasım 2025’te Anthropic adlı şirket, büyük ölçekli bir yapay zeka siber saldırısının ilk belgelenmiş örneğini engellediğini duyurmuştu. Saldırı, Çin devlet destekli bir grubun Claude Code’u kullanarak yaklaşık 30 teknoloji şirketi, finans kuruluşu, hükümet kurumu ve kimya üreticisine sızma girişimiydi.
Derin Sahtecilikle Mücadele ve Yeni Nesil Çözümler
Hinton, YZ’nin kötüye kullanımını önlemek için daha fazla düzenleme çağrısında bulunuyor. Ancak her problemin ayrı bir çözüm gerektirmesi nedeniyle bu mücadele zorlu olacak. Hinton, gelecekte videoların ve görüntülerin orijinalliğini doğrulayan bir sistem öngörüyor. “Yazıcıların yüzlerce yıl önce eserlerine isimlerini eklemeleri gibi, medya kaynakları da otantik çalışmalarına imza atmayı bulacaklar.” Ancak bu tür düzeltmelerin de yeterli olmayabileceğini belirtiyor.
Süper Zeka ve “Anne İçgüdüsü”
Hinton, YZ’nin süper zekaya ulaştığında insan yeteneklerini aşacağını ve hayatta kalma arzusu ile kontrol arzusunu da beraberinde getireceğini savunuyor. Mevcut yapay zeka çerçevesinin—insanların teknolojiyi kontrol edebileceği varsayımının—bu durumda geçerliliğini yitireceğini belirtiyor. Hinton, YZ modellerine “anne içgüdüsü” aşılanması gerektiğini ve bu sayede daha az güçlü insanlara şefkatle davranılmasını sağlayabileceğini düşünüyor. “Daha zeki bir varlığın, daha az zeki birini kontrol etmesi durumuna en çok bir bebeğin annesini kontrol etmesi örnek olarak verilebilir. Bence süper zeki yapay zeka için de bu daha iyi bir model olabilir. Onlar anne olacak, biz bebekler olacağız.”