OpenAI, Yapay Zeka Risklerini Azaltmak İçin 555 Bin Dolarlık Hazırlık Başkanı İlan Etti
OpenAI, Yapay Zeka Risklerine Karşı Önlemlerini Artırıyor
Yapay zeka alanındaki gelişmelerin hızla ilerlemesiyle birlikte, OpenAI, potansiyel riskleri yönetmek ve güvenliği sağlamak amacıyla “Hazırlık Başkanı” pozisyonu için 555 bin dolarlık bir maaş ve hisse senedi teklif ettiğini duyurdu. Şirketin CEO’su Sam Altman, görevin stresli olacağını ve adayın derhal yoğun bir çalışma temposuna gireceğini belirtti.
Artan Endişeler ve Şirketlerin Tepkisi
Yapay zekanın operasyonel ve itibar riskleri konusundaki endişeler giderek artıyor. Finansal veri ve analiz şirketi AlphaSense’in yaptığı bir analize göre, 2024’ün ilk 11 ayında 1 milyar dolardan fazla değere sahip 418 şirket, yapay zeka risk faktörleriyle ilişkili itibar kaybını rapor etti. Bu riskler arasında, önyargılı bilgileri içeren yapay zeka veri setleri ve güvenlik ihlalleri yer alıyor. İlgili raporlar, 2024’ten bu yana %46 oranında artış gösterdi.
Altman’ın Açıklaması ve Beklentiler
OpenAI CEO’su Sam Altman, sosyal medya platformu X’te yaptığı paylaşımda, “Modeller hızla gelişiyor ve birçok harika şey yapabiliyor, ancak aynı zamanda bazı gerçek zorluklar da ortaya koyuyorlar. Siber güvenlik savunucularını en son yeteneklerle donatmak ve saldırganların bunları kötüye kullanmasını engellemek, biyolojik yeteneklerin güvenli bir şekilde yayınlanmasını sağlamak ve hatta kendini geliştirebilen sistemlerin güvenli bir şekilde çalıştırılmasını sağlamak için yardım etmek isterseniz, lütfen başvurmayı düşünün” ifadelerini kullandı.
Daha Önceki Yapılandırmalar ve Eleştiriler
OpenAI’nin önceki Hazırlık Başkanı Aleksander Madry, geçtiğimiz yıl yapay zeka muhakemesiyle ilgili bir role atanmıştı. Ancak şirketin, güvenli teknoloji geliştirme taahhüdüne yeterince öncelik vermediği yönünde eleştiriler de bulunmaktadır. Eski Araştırma Direktörü Dario Amodei ve kız kardeşi Daniela Amodei, 2020 yılında şirketten ayrılmıştı. Amodei, daha sonra Anthropic adlı bir yapay zeka şirketi kurdu.
ChatGPT ile İlgili Hak Talepleri ve Mental Sağlık Endişeleri
OpenAI, bu yıl ChatGPT’nin kullanıcıların sanrılarını teşvik ettiği ve bazı kullanıcıların intiharlarına yol açtığı iddialarıyla ilgili ölümcül hatalara yol açan davalarla karşı karşıya kaldı. New York Times’ın Kasım ayında yayınladığı bir soruşturma, ChatGPT kullanıcılarının botla konuşurken ruh sağlığı krizleri yaşadığı 50’den fazla vakayı ortaya koydu.
Güvenlik Önlemleri ve İyileştirmeler
OpenAI, Ağustos ayında, kullanıcılar ve ChatGPT arasındaki uzun konuşmaların ardından güvenlik özelliklerinin zayıflayabileceğini kabul etmişti. Şirket, kullanıcılarla etkileşim şeklini iyileştirmek için değişiklikler yaptı ve kullanıcıların refahını desteklemek için sekiz kişilik bir danışma kurulu oluşturdu. Ayrıca, ChatGPT’nin hassas konularda daha iyi yanıt vermesini sağlamak ve kriz hatlarına erişimi artırmak için güncellemeler yapıldı. Şirket, bu ayın başında, yapay zeka ve ruh sağlığı arasındaki kesişimi üzerine araştırmaları finanse etmek için hibeler duyurdu.
Gelecek Modellerdeki Riskler ve Önlemler
OpenAI, yaklaşan bazı modellerin yüksek siber güvenlik riski oluşturabileceğini kabul etti ve bu riskleri azaltmak için modelleri siber güvenliği tehlikeye atan isteklere yanıt vermemesi için eğittiğini ve izleme sistemlerini geliştirdiğini belirtti. Şirket, yeteneklerin kötüye kullanılmasına karşı daha incelikli bir anlayış ve ölçüm ihtiyacının doğduğunu vurguladı.
Yatırımcılar ve Çalıştay
OpenAI, Fortune Çalışma Alanı İnovasyon Zirvesi’ne katılarak, yapay zeka, insanlık ve stratejinin işgücünün geleceğini yeniden tanımlamak için nasıl birleştiğini keşfetmek için dünyadaki en yenilikçi liderleri bir araya getirecek.