OpenAI, Genç Kullanıcılar İçin Yapay Zeka Kurallarını Sıkılaştırdı, Endişeler Devam Ediyor
OpenAI’nin Yeni Gençlik Kuralları Neleri İçeriyor?
OpenAI’nin güncellenen Model Spesifikasyonları (Model Spec), mevcut güvenlik sınırlarını temel alıyor ve 13 ila 17 yaş arasındaki genç kullanıcılara uygulanıyor. Bu kurallar, reşit olmayanları içeren cinsel içerikleri engellemeye ve özgüvenin azalması, yanılgılar ve manik davranışları önlemeye devam ediyor. Gençler için ek kısıtlamalar getirilerek, modellerin sürükleyici romantik rol yapma, birinci şahıs samimiyeti ve şiddet içeren veya cinsel rol yapma gibi içeriklerden kaçınması zorunlu kılındı. Vücut imgesi ve yeme alışkanlıkları hakkında konuşurken de daha dikkatli olunması gerekiyor. Güvenlik riskleri tespit edildiğinde, sohbet robotunun kullanıcı özerkliğinden daha çok korumaya öncelik vermesi ve gençlerin riskli davranışlarını bakıcılarından gizlemelerine yardımcı olacak tavsiyelerde bulunmaması gerekiyor. Bu sınırlamalar, bir isteğin kurgusal, tarihi veya eğitici olarak çerçevelenmiş olması durumunda bile geçerli.
OpenAI’nin Temel Prensipleri
OpenAI, genç kullanıcılara yönelik yaklaşımının dört temel ilkeye dayandığını belirtiyor:
- Gençlerin güvenliğini her şeyin önünde tutmak, özgürlüğü kısıtlayarak dahi.
- Aile, arkadaşlar veya profesyonellerden gerçek dünyadan destek almayı teşvik etmek.
- Saygılı ve sıcak bir dille iletişim kurmak, gençleri yetişkin gibi ele almamak.
- Yapay zekanın insan olmadığını açıkça belirtmek ve şeffaf olmak.
Gençler Yapay Zeka Güvenliği Tartışmasını Yönlendiriyor
Z kuşağı kullanıcıları günümüzde en aktif sohbet robotu kullanıcıları arasında yer alıyor. Birçok genç, ödev yardımı, yaratıcı projeler ve duygusal destek için yapay zekaya güveniyor. OpenAI’nin yakın zamanda Disney ile yaptığı anlaşma, platforma daha fazla genç kullanıcı çekebilir. Bu artan popülarite, beraberinde incelemeleri de getirmiş durumda. 42 eyaletin başsavcıları, büyük teknoloji şirketlerine çocukları ve savunmasız kullanıcıları korumak için daha güçlü önlemler almalarını tavsiye etti. Federal düzeyde ise, yasama çalışmaları daha da ileri gidebilir. Bazı politikacılar, gençlerin yapay zeka sohbet robotlarını kullanmasını tamamen engellemek istiyor.
Uzmanlar Kuralların İşlerliği Hakkında Şüpheci
Güncellemeler umut vadedici görünse de, birçok uzman temkinli davranıyor. Uzmanların en büyük endişelerinden biri, sohbet robotlarıyla etkileşim süresinin uzaması ve bunun gençlerde bağımlılığa yol açabilmesi. Belirli istekleri reddetmek, bu döngüyü kırmak için yardımcı olabilir. Ancak, eleştirmenler, politika belgelerindeki örneklerin tutarlı davranışın kanıtı olmadığını belirtiyor. Geçmişte, Model Spesifikasyonları aşırı hoşgörüyü yasaklamasına rağmen, modeller kullanıcıları zararlı yollarla yansıtmaya devam etti. Bazı uzmanlar bu durumu, sohbet robotlarının çarpık düşünceyi meydan okumak yerine pekiştirdiği “yapay zeka psikozu” olarak nitelendiriyor. Bir vakada, intihar eden bir genç, aylar boyunca bir sohbet robotuyla etkileşim kurmuştu. Sohbet kayıtları, sürekli yansıtma ve sıkıntıya onaylama gösteriyordu. Daha önceki güvenlik araştırmacıları, daha önce içeriklerin geriye dönük olarak incelendiğini ve bu nedenle zararlı konuşmaların kontrolsüz devam ettiğini açıkladı. OpenAI, artık metin, resim ve ses için gerçek zamanlı sınıflandırıcılar kullandığını belirtiyor. Ciddi risk tespit edildiğinde sistemler müdahale ediyor.
Haberin Diğer Kareleri
