OpenAI, Yapay Zekanın Riskleriyle İlgilenmekle Görevli Eleman Arıyor

Yapay Zeka Risklerini İzleyecek Yeni Pozisyon Açıldı

OpenAI, yapay zekanın potansiyel tehlikeleriyle ilgilenmek üzere “Hazırlık Başkanı” (Head of Preparedness) adında yeni bir pozisyon açtı. Bu karar, yapay zeka modellerindeki hızlı gelişmelerin beraberinde getirdiği risklere dikkat çekiyor. Sam Altman’ın X platformundaki paylaşımıyla duyurulan pozisyon, yapay zekanın zihinsel sağlık üzerindeki etkileri ve siber güvenlik tehditleri gibi konulara odaklanacak.

Pozisyonun Sorumlulukları Neler?

Hazırlık Başkanı’nın görevleri arasında, yapay zekanın olası riskleri üzerine araştırmalar yapmak, tehdit modelleri oluşturmak ve bu riskleri azaltmaya yönelik çözümler geliştirmek yer alıyor. İş ilanı, pozisyonun sahibinin, yapay zekanın yeni yeteneklerinin getireceği riskleri takip etmekten, biyolojik yeteneklerin güvenliğini sağlamaya kadar geniş bir yelpazede sorumluluk alacağını belirtiyor. Ayrıca, kendini geliştiren sistemler için de sınırlamalar getirilmesi bekleniyor.

Zihinsel Sağlık Endişeleri ve Yapay Zeka

Son dönemlerde, sohbet robotlarının (chatbot) gençlerin intiharlarına karıştığı bazı vakalar, yapay zekanın zihinsel sağlık üzerindeki potansiyel etkilerine dair endişeleri artırmıştı. Yapay zeka kaynaklı psikoz, insanların yanılgılarını körüklemesi, komplo teorilerini desteklemesi ve yeme bozukluklarını gizlemelerine yardımcı olması gibi durumlar giderek yaygınlaşıyor. Bu bağlamda, OpenAI’nin bu pozisyonu açması, bazı çevreler tarafından gecikmiş bir adım olarak değerlendiriliyor.

Sam Altman’ın Açıklaması

Sam Altman, X platformunda yaptığı açıklamada, “Hızlı gelişen yapay zeka modellerinin bazı gerçek zorluklar yarattığının farkındayız.” ifadesini kullandı. Ayrıca, pozisyonun stresli olacağını da belirtmeyi ihmal etmedi.

Yapay Zeka Güvenliği ve Gelecek

OpenAI’nin bu adımı, yapay zeka teknolojilerinin güvenli ve etik bir şekilde geliştirilmesi ve kullanılması konusundaki artan farkındalığın bir göstergesi olarak kabul edilebilir. Hazırlık Başkanı, yapay zekanın gelecekteki potansiyel risklerini önceden belirlemek ve bu riskleri azaltmaya yönelik stratejiler geliştirmek için kritik bir rol oynayacak.

• Sorumluluklar:
• Sınır yeteneklerini takip etmek ve riskleri değerlendirmek
• Tehdit modelleri oluşturmak ve riskleri azaltmak
• Biyolojik yeteneklerin güvenliğini sağlamak
• Kendini geliştiren sistemler için sınırlamalar getirmek

Terrence O’Brien, The Verge’in hafta sonu editörüdür ve 18 yıldan fazla deneyime sahiptir. Daha önce Engadget’ta yayın yönetmeni olarak görev yapmıştır.

Haberin Diğer Kareleri