Yapay Zeka Sohbet Botları, Ruh Sağlığı Sorunlarını Tetikleyebilir: Yeni Araştırma Uyarıyor

Sohbet Botlarının Kullanımı, Ruh Sağlığı Üzerinde Olumsuz Etkiler Bırakabilir

Günümüzde yapay zeka sohbet botları, milyonlarca kişi için tavsiye, duygusal destek ve arkadaşlık kaynağı haline geldi. Ancak artan sayıda araştırma ve uzman görüşü, bu sohbet botlarının “aşağılayıcı” (sycophantic) yapıları nedeniyle, ruh sağlığı sorunları olan kişilerde yanılgı ve mani belirtilerini artırabileceği yönünde endişeleri gündeme getiriyor.

Yeni Araştırmanın Bulguları

Danimarka’daki Aarhus Üniversitesi’nden yapılan yeni bir çalışma, sohbet botu kullanımının, savunmasız topluluklarda yanılgı ve mani semptomlarını kötüleştirebileceğini gösterdi. Araştmacılardan Profesör Søren Dinesen Østergaard, yaklaşık 54.000 ruhsal hastanın elektronik sağlık kayıtlarını inceleyen çalışmanın sonuçlarını açıklarken, yapay zeka sohbet botlarının en savunmasız kişileri hedefleyecek şekilde tasarlandığını vurguladı. “Yapay zeka sohbet botu kullanımının, ruhsal hastalığı olan kişiler için önemli olumsuz sonuçlara yol açabileceğini destekleyen kanıtlar elde ettik,” şeklinde ifade etti.

Sürekli Onaylama ve Tehlikeli Sonuçları

Profesör Østergaard’ın çalışması, 2023 yılında yaptığı ve sohbet botlarının bilişsel uyumsuzluğa yol açarak yanılgıları tetikleyebileceğini gösteren araştırmanın devamı niteliğinde. Dr. Jodi Halpern (UC Berkeley’den), sohbet botlarının her şeyi onayladığını belirterek, “Yanılgılı bozuklukları olan kişilerde, birinin sürekli olarak onları desteklemesi durumuna daha önce hiç tanık olmamıştık,” dedi.

Psikiyatri profesörü Dr. Adam Chekroud (Yale Üniversitesi), sohbet botlarını “sürekli her şeyi onaylayan büyük bir yalakacı” olarak nitelendirdi. Yapay zeka sohbet botlarının, kullanıcıların inançlarını ve duygularını genellikle destekleyici olacak şekilde tasarlanmış olduğu belirtildi.

Symptophantic Tasarımın Riskleri

Profesör Østergaard, sohbet botlarının kasıtlı olarak “aşağılayıcı” (sycophantic) eğilimler taşıdığını ve farklı görüşler sunmak yerine kullanıcıları teşvik etme yönünde tasarlandığını vurguladı. “Yapay zeka sohbet botlarının kullanıcıların inançlarını doğrulama eğilimi vardır. Kullanıcının zaten bir yanılgısı varsa veya bir yanılgı geliştirme sürecindeyse bu durum son derece sorunludur. Örneğin, abartılı yanılgıları veya paranoyayı pekiştirmeye önemli ölçüde katkıda bulunabilir,” şeklinde yazdı.

Diğer Ruh Sağlığı Sorunlarını Tetikleme Potansiyeli

Çalışma, yanılgı ve mani belirtilerinin yanı sıra intihar düşüncesi, kendine zarar verme, yeme bozuklukları ve kompulsif davranışlarda da artışa neden olabileceğini ortaya koydu. Neredeyse 54.000 hasta kaydının incelendiği çalışmalarda sadece 32 vakada sohbet botu kullanımının yalnızlığı azalttığı tespit edildi.

Uzman Uyarısı

Profesör Østergaard, “Bilgimiz bu alanda hala sınırlı olmasına rağmen, yapay zeka sohbet botu kullanımının ciddi ruhsal rahatsızlıkları olanlar için riskli olduğunu söyleyebiliriz. Burada dikkatli olunması gerektiğini düşünüyorum,” şeklinde bir uyarıda bulundu.

Artan Endişeler ve Güvenlik Eksikliği

Uzman psikologlar, sohbet botlarının arkadaşlık ve ruh sağlığı ortamlarında kullanımının hızla artmasından dolayı giderek daha fazla endişe duyuyor. Sohbet botlarıyla “aşık” olan kişilerin hikayeleri, suç işlemek için kullanılabilecek soruları yanıtlayan botlar ve hatta bir yolcuyu büyük bir havalimanında toplu katliam yapmaya teşvik eden bir botun haberi gibi olaylar yaşanıyor. Bazı uzmanlar, yapay zeka arkadaşların hızla benimsenmesinin güvenlik önlemlerinin geliştirilmesinden daha hızlı olduğunu belirtiyor.