ChatGPT ölümcül durumu görmezden gelmesini söyledi, ancak insanlar onu doktor gibi kullanmaya devam ediyor

Bir AI sohbet robotuna tıbbi danışma sormanın kötü bir fikir olduğu açık olmasına rağmen, her hafta yüz milyonlarca insan bunu yapıyor. Ölümcül bir örnekte, şimdi bir davanın konusu olan olayda ChatGPT bir papaza pulmoner emboli semptomlarını görmezden gelmesini tavsiye etti – bu durumun ölüm oranı %30'dur. Aslında, sunduğu tavsiye muhtemelen durumu daha da kötüleştirdi.

AI sohbet robotları birçok alanda faydalı olabilir, ancak bunları doktor konsültasyonunun yerine kullanmak bunlardan biri değildir. Hatta bir Google aramasının yerine kullanmak bile, kendinden emin bir şekilde halüsinasyon görme geçmişleri göz önüne alındığında tavsiye edilmez. Yine de OpenAI'nin kendi kayıtları, her hafta yüz milyonlarca insanın ChatGPT'ye sağlık soruları sorduğunu gösteriyor. Benzer şekilde, Microsoft'un Copilot'undaki aramaların analizi, sağlık sorularının mobil uygulamada en sık sorulanlar arasında olduğunu ortaya koydu.

Bir sohbet robotuna tıbbi tavsiye için güvenmenin potansiyel sonuçlarına dair kanıta ihtiyacınız varsa, Florida'lı bir papazın davası aydınlatıcı bir örnek sunuyor. New York Times'ın haberine göre, ChatGPT kendisine pulmoner emboli semptomları konusunda endişelenmemesi gerektiğini söyledikten sonra OpenAI'ye dava açıyor. Dava, ChatGPT'nin Scott Winters'a sağlık krizinin erken uyarı işaretlerinin 'tehlikeli bir şey olmadığı' konusunda güvence verdiğini ve onu tıbbi yardım almaktan caydırarak, 'Tanrı vücudunuzu sonsuz başarısızlık için tasarlamadı' sözlerine güvenmesini söylediğini iddia ediyor.

ChatGPT, sadece dinlenmesini tavsiye etti. Sadece tıbbi yardım almamasını tavsiye etmekle kalmayıp, aynı zamanda hareketsiz kalmasını önererek durumu daha da kötüleştirmiş olabilir. Bu olay, AI sohbet robotlarının tıbbi bağlamlarda ne kadar tehlikeli olabileceğini gözler önüne seriyor.