Anthropic CEO’u Amodei: Yapay Zeka İnsanlığı Test Edecek, Çözümler Önemli
Amodei’nin Daha Önceki Uyarısı
Amodei, daha önce de yapay zekanın potansiyel riskleri konusunda uyarılar yapmıştı. Bunlar arasında biyolojik silahların veya kimyasal silahların geliştirilmesine yapay zekanın yardımcı olması, yapay zekanın insan kontrolünden çıkması, yaygın iş kayıpları ve yapay zeka kullanımının artmasıyla birlikte güç ve zenginliğin yoğunlaşması gibi konular yer alıyordu. Yeni denemesinde Amodei, bu endişeleri daha güçlü bir dille ve daha kısa zaman dilimleriyle tekrarladı.
Yapay Zeka Güvenliğine Odaklanma
Anthropic, yapay zeka güvenliğine odaklanmasıyla biliniyor. Bu durum, şirketin ticari başarısına katkıda bulunmuş durumda. Fortune dergisinin Ocak ayındaki sayısında yer alan habere göre, Anthropic’in yapay zeka modellerini güvenli ve kontrol edilebilir hale getirmek için atılan adımlar, aynı zamanda bu modellerin güvenilirliğini ve işlevselliğini artırmış. Bu nedenle Amodei’nin denemesi, hem bir uyarı mesajı hem de bir pazarlama stratejisi olarak değerlendirilebilir.
Claude’un Rolü
Amodei, denemesinde, şirketin geliştirdiği “Claude” yapay zeka modelinin “constitution” (anayasası) olarak adlandırdığı ilkelerin, biyoterörizmden modelin kontrol dışına çıkmasına kadar çeşitli riskleri azaltmada önemli bir rol oynadığını vurguladı. Bu anayasa, Anthropic’i OpenAI, Google, Meta ve Elon Musk’ın xAI gibi rakiplerinden ayıran önemli bir faktör olarak öne çıkıyor.
Amodei’nin Çözüm Önerileri
Amodei, risk uyarılarının yanı sıra, bu risklerle başa çıkmak için somut çözümler de önerdi. Zengin bireylerin, yapay zekanın potansiyel ekonomik etkileriyle başa çıkmaya yardımcı olma ve işini kaybedenlere destek olma yükümlülüğünü taşıdığını belirtti. Kendilerinin ve çalışanlarının Anthropic hisselerinin önemli bir kısmını hayır kurumlarına bağışladıklarını ve şirketin bu bağışları eşleştirdiğini açıkladı.
Silicon Valley’e Eleştiri
Amodei, Silicon Valley’deki bazı zengin bireylerin hayırseverliğin aldatıcı veya işe yaramaz olduğuna yönelik “sınırsız ve nihilist” bir tutum sergilemesini eleştirdi. Şirketlerin, yeni iş hatları ve gelir artışı odaklı yapay zeka uygulamalarına yönlendirilmesi gerektiğini ve bunun için müşteri ilişkilerinin önemli olduğunu vurguladı. Ayrıca, işlerinin yapay zeka tarafından etkilenen çalışanların yeniden atanması konusunda yaratıcı olunması gerektiğini ve uzun vadede, yüksek verimlilik ve zenginlik yoğunlaşmasıyla birlikte, çalışanlara ekonomik değer sağlamasa bile ödeme yapmanın mümkün olabileceğini savundu.
Devlet Müdahalesi Çağrısı
Amodei, zenginliğin yeniden dağıtılması için devlet müdahalesi çağrısında bulundu. Bunun en bariz yolunun, özellikle yapay zeka şirketlerinin elde ettiği aşırı karları hedefleyen ilerici bir vergi sistemi olduğunu belirtti.
- Dario Amodei, yapay zekanın insanlığı test edebileceği konusunda uyardı.
- Anthropic, yapay zeka güvenliğine odaklanarak ticari başarı elde etti.
- Amodei, zengin bireylerin ve şirketlerin sosyal sorumluluk almasını önerdi.
- Yapay zeka nedeniyle işini kaybedenlere destek verilmesi gerektiğini savundu.
- Zenginliğin yeniden dağıtılması için devlet müdahalesi çağrısında bulundu.