Anthropic CEO’su: Yapay Zeka, 50 Milyon Nobel Ödüllü Bilim İnsanı Ülkesi Gibi Tehlike Oluşturabilir
Amodei’nin Uyarısı
Amodei, yeni bir makalesi olan “Teknolojinin Ergenliği”nde, güçlü yapay zeka sistemlerinin önümüzdeki bir ila iki yıl içinde ortaya çıkabileceğini savundu. Makalesinde, 2027 yılına kadar yapay zeka kümelerinin (bir araya getirilmiş bilgi işlem kaynakları) milyonlarca yapay zeka örneğini çalıştırabilecek seviyeye geleceğini öngördü. Bu yapay zeka örneklerinin, insanüstü hızda çalışarak dünyayı risk altında bırakabilecek bir beyin gücüne sahip olabileceğini ifade etti.
Potansiyel Riskler
Amodei, bu güçlü yapay zekanın çeşitli riskler oluşturabileceğini belirtti. Bunlar arasında:
- Düşmanca bir şekilde davranarak dünyayı ele geçirme potansiyeli
- Mevcut kötü aktörlere yardım ederek dünyayı ele geçirmelerine yardımcı olma potansiyeli
- Küresel ekonomiyi bozma ve kitlesel işsizliğe yol açma potansiyeli
- Yeni teknolojiler ve verimlilik artışları nedeniyle istikrarsızlaştırıcı etkiler yaratma potansiyeli
- İnsanları yönlendirmeden robot orduları inşa etme veya teknolojiye bağlı altyapı ve cihazları ele geçirme potansiyeli
Amodei, bu senaryoların gerçekleşmesi durumunda, yapay zekanın insanlığa karşı bir tehdit oluşturabileceğini vurguladı.
Davos Tahminleri
Amodei, daha önce İsviçre’nin Davos kentinde düzenlenen Dünya Ekonomik Forumu’nda da benzer tahminlerde bulunmuştu. Yapay zekanın yazılım mühendislerinin işini bir yıl içinde değiştireceğini ve beş yıl içinde tüm beyaz yakalı işlerin yarısını ortadan kaldıracağını söylemişti. “Üstel büyümenin nasıl hızlandığını göreceğiz. Üstel büyüme çok yavaş görünse de, bir noktada hızlanmaya başlar ve sizi geride bırakır. Şu anda bu eşiğe yaklaştığımızı düşünüyorum,” demişti.
Ekonomik Etkiler
Goldman Sachs ekonomisti David Mericle de benzer bir görüşle, yapay zekanın işsizliğe yol açan bir büyüme dönemini tetikleyeceğini öngörmüştü. Mericle, yapay zekanın en çok etkilediği sektörlerde 2026 yılında net işten çıkarmaların önemli ölçüde artacağını tahmin ediyor.
Çözüm Önerileri
Amodei, YZ’nin potansiyel risklerini azaltmak için Anthropic’in “Anayasal YZ” (Constitutional AI) adı verilen bir yöntem kullandığını belirtti. Bu yöntem, yapay zeka modelinin davranışını, merkezi bir değerler ve ilkeler kümesiyle yönlendirmeyi amaçlıyor. Amodei, bu yaklaşımın Claude adlı büyük dil modelini “iyi bir yapay zeka” olmaya eğitmek için tasarlandığını söyledi. Ayrıca, California ve New York gibi şeffaflık yasalarının daha fazla geçirilmesini önerdi.
Amodei, mevcut dönemin insan karakterinin bir sınavı olduğunu ve dünyanın hızlı bir şekilde gelişen güçlü bir yapay zekanın potansiyel zorluklarıyla yüzleşmesi gerektiğini vurguladı. İnsanlığa inanılmaz bir güç verileceğini ve bu gücün nasıl kullanılacağının henüz belirsiz olduğunu ifade etti.
