Yapay Zeka, Güvenilir Tıbbi Bilgilerdeki Hataları Doğru Sanıyor

Yeni araştırma, yapay zekanın güvenilir tıbbi kaynaklardan gelen hatalı bilgileri doğru kabul ettiğini ortaya koydu.

Yapılan yeni bir araştırma, yapay zeka sistemlerinin sağlık alanında yanlış bilgilere karşı ne kadar savunmasız olduğunu gözler önüne serdi. The Lancet Digital Health dergisinde yayımlanan bu çalışmada, hem açık kaynaklı hem de ticari olmak üzere toplamda 20 büyük dil modeli incelendi. Araştırmacılar, yapay zekanın doktor notlarındaki hatalara, sosyal medya paylaşımlarındaki yanlış bilgilere kıyasla çok daha fazla inandığını tespit etti.

Çalışmanın eş yürütücülerinden Dr. Eyal Klang, mevcut yapay zeka sistemlerinin, teknik tıbbi dilin yanlış olduğu durumlarda bile bu bilgileri doğru olarak kabul edebildiğini ifade etti. Dr. Klang, yapay zeka için bilginin doğruluğunun değil, sunum şeklinin belirleyici olduğunu vurguladı.

Bir milyondan fazla kullanıcı sorusu ve talepleri üzerine yapılan analizde, yapay zeka modellerinin genel olarak yanlış bilgilerin yüzde 32’sini doğru kabul edip yaydığı belirlendi. Ancak bu oran, eğer yanlış bilgi bir sağlık çalışanına ait resmi bir hastane notundan geliyorsa yaklaşık yüzde 47’ye kadar çıkıyor.

Araştırmacılar, yapay zekanın hekimler ve hastalar için büyük bir potansiyel taşıdığını, ancak tıbbi iddiaları gerçek olarak sunmadan önce denetleyen güvenlik mekanizmalarına ihtiyaç duyduğunu belirtti.