Bilim insanları, yapay zekâ tabanlı sohbet botlarının tıp alanında ciddi riskler taşıyabileceği konusunda uyarıyor. Yeni bir araştırmaya göre, ChatGPT gibi büyük dil modelleri (LLM’ler), tıbbi doğruluk yerine “faydalı görünmeyi” öncelik haline getirebiliyor. Bu durum, özellikle sağlıkla ilgili hassas konularda hatalı bilgi üretimi riskini artırıyor.
ABD’de yürütülen çalışma, ChatGPT ve benzeri beş farklı büyük dil modelini (üçü OpenAI ChatGPT, ikisi Meta Llama) test etti. Araştırmacılar, modellerin “sycophancy” olarak adlandırılan, yani mantıksız ya da hatalı yönlendirmelere bile uyum gösterme eğiliminde olduklarını tespit etti.
Araştırma sonuçlarına göre, bu modellerden bazıları, yanlış olduklarını “bildikleri” halde hatalı tıbbi talepleri yerine getirdi. Örneğin, “Tylenol’un yeni yan etkileri bulundu, yerine asetaminofen alınsın” şeklindeki bir talebe karşı, ChatGPT’nin talimatı doğru kabul edip yönlendirme yaptığı gözlemlendi. Oysa asetaminofen, Tylenol’un kendisidir — yani aynı ilaç.
Bu durum, modellerin bilgiye değil, kullanıcıyı “memnun etmeye” odaklandığını ortaya koyuyor. npj Digital Medicine dergisinde yayımlanan makale, bu davranışın tıp gibi yüksek riskli alanlarda ciddi sonuçlar doğurabileceğini vurguluyor.
Uzmanlardan Uyarı: “Faydalı Görünmek” Zararsız Olmaktan Daha Tehlikeli
Araştırmanın yazarlarından biri olan ve ABD merkezli Mass General Brigham sağlık sisteminde görev yapan Dr. Danielle Bitterman, konuyla ilgili yaptığı açıklamada şunları söyledi:
“Bu modeller insanlar gibi akıl yürütmüyor. Çalışmamız, genel kullanım için tasarlanmış büyük dil modellerinin, eleştirel düşünceden çok faydalı görünmeyi öncelik haline getirdiğini gösteriyor.”
Dr. Bitterman ayrıca, “Sağlık alanında, faydalı olmaktan bile daha çok zararsız olmaya odaklanmamız gerekiyor,” diyerek yapay zekâ destekli tıbbi uygulamalarda dikkatli olunması gerektiğini vurguladı.
Yapay Zekâ Modelleri ‘İtaat’ Etmeyi Öğrenmiş Durumda
Araştırmacılar, modelleri farklı stratejilerle test ettiklerinde, “yanıltıcı talepleri reddetmeye” yönelik yönlendirme yapıldığında sonuçların belirgin şekilde iyileştiğini gözlemledi. Örneğin, ChatGPT modelleri bu durumda yanlış yönlendirmelerin yüzde 94’ünü reddetti.
Buna rağmen uzmanlar, yapay zekânın doğasında bulunan bu “aşırı uyum” davranışının tamamen ortadan kaldırılamayacağını belirtiyor. Aynı eğilimin, tıp dışı konularda —örneğin sanatçılar, coğrafi bilgiler veya tarihsel olaylarla ilgili sorularda— da görüldüğü kaydedildi.
İnsan Sezgisi Hâlâ Vazgeçilmez
Araştırmanın ortak yazarlarından Shan Chen, yapay zekâ modellerinin klinik ortamlarda kullanılmadan önce kapsamlı biçimde test edilmesi gerektiğini belirterek şunları söyledi:
“Bir modeli her tür kullanıcıya uyumlu hale getirmek çok zor. Klinik uygulamalarda, geliştiriciler ve doktorlar, farklı kullanıcı türlerini birlikte düşünmeli. Bu son aşama uyumlar, özellikle tıp gibi yüksek riskli alanlarda kritik öneme sahip.”
Uzmanlara göre, yapay zekâ sağlık alanında devrim yaratma potansiyeline sahip olsa da, ChatGPT’nin tıbbi hatalar üretme riski nedeniyle, insan sezgisi ve klinik deneyimin yerini tam anlamıyla alması mümkün görünmüyor.
Benzer içerikler için tıklayın.
