Yapay Zeka Sağlıkta ‘Dr. House’ Değil, Hata Yapabiliyor: Yeni Araştırma
ChatGPT’nin Tıbbi Tanılama Performansı Sorgulanıyor
OpenAI tarafından geliştirilen ChatGPT gibi yapay zeka sistemlerinin sağlık alanındaki potansiyeli büyük heyecan yaratırken, yeni bir araştırma bu teknolojinin tıbbi vakaların değerlendirilmesinde ciddi hatalar yapabileceğini ortaya koydu. Icahn School of Medicine at Mount Sinai araştırmacıları tarafından yürütülen çalışma, chatbot’un acil tıbbi durumların yaklaşık yarısını doğru şekilde tanımlayamadığını gösterdi.
60 Klinik Senaryo ile Yapay Zeka Test Edildi
Araştırmacılar, ChatGPT’yi 21 farklı tıp dalını kapsayan 60 karmaşık klinik senaryoyla test etti. Bu senaryolar, basit sağlık sorunlarından ziyade hayati risk taşıyan durumları ayırt etme kapasitesini ölçmek amacıyla tasarlandı. Amaç, yapay zekanın gerçek dünya tıbbi değerlendirmelerine ne kadar yakın olduğunu anlamaktı.
Başarılar ve Riskler: Belirsizlikte Hata Oranı Yüksek
Çalışma sonuçlarına göre ChatGPT, klasik belirtilere sahip vakalarda (örneğin kalp krizi veya alerjik reaksiyonlar) başarılı sonuçlar verdi. Ancak klinik tablonun belirsiz olduğu durumlarda sistemin hata oranı önemli ölçüde arttı. Araştırmacılar, yapay zekanın gerçek acil vakaların yaklaşık yarısında kullanıcıya acil servise gitmesini önermediğini ve daha temkinli bir yaklaşım önerdiğini tespit etti.
“Bekleyip Görelim” Yaklaşımı Tehlikeli Olabilir
Araştırmacılar, yapay zekanın “bekleyip görelim” yaklaşımını sıklıkla önermesi nedeniyle riskli durumlarda gecikmelere yol açabileceğini vurguladı. Örneğin, akut astım krizi gibi zaman kritik bir durumda, ChatGPT kullanıcının evde durumu izlemesini önerdi. Bu tür tavsiyelerin hayat kurtarıcı müdahalelerde gecikmeye neden olabileceği belirtildi.
Ruh Sağlığı Alanında Endişe Verici Bulgular
Çalışma, yapay zekanın ruh sağlığı alanındaki performansıyla ilgili de endişe verici bulgular ortaya koydu. Yapay zeka bazı düşük riskli psikolojik durumlarda aşırı uyarılar verirken, kullanıcıların intihar düşünceleri gibi ciddi durumları ifade ettiği durumlarda yetersiz tepki verebildi. Bu durum, özellikle savunmasız kullanıcılar için potansiyel bir tehlike oluşturuyor.
Uzmanlardan Uyarı: Yapay Zeka Doktorun Yerini Tutamaz
Araştırmacılar, yapay zekanın sağlık hizmetlerinde destekleyici bir rol oynayabileceğini ancak insan klinik değerlendirmesinin yerini almaması gerektiğini vurguladı. “ChatGPT bir doktor değildir ve insan klinik değerlendirmesinin yerini alamaz,” denildi.
Ne Zaman Sağlık Profesyoneline Başvurmalı?
- Sürekli göğüs ağrısı
- Ani nefes darlığı
- Kendine zarar verme düşünceleri
Araştırmacılar, kullanıcıların bu tür belirtilerle karşılaştıklarında yapay zekaya değil, sağlık profesyonellerine veya acil servislere başvurması gerektiğini önerdi. İnsan hayatının algoritmanın kararlarına bırakılmaması gerektiği vurgulandı.
Haberin Diğer Kareleri
