Sağlıkta yapay zeka kullanımı yaygınlaşırken, Google’ın tıbbi yapay zeka modeli Med-Gemini’nin var olmayan bir beyin bölgesini tanımlaması, teknolojiye duyulan güveni sarstı. Uzmanlar, bu tür hataların hastane ortamında ölümcül sonuçlar doğurabileceği konusunda uyarıyor.

Sağlık sektöründe üretken yapay zeka teknolojilerinin hızla yaygınlaşması, beraberinde ciddi risk tartışmalarını da getiriyor. Özellikle “halüsinasyon” olarak bilinen, gerçekte var olmayan bilgileri doğruymuş gibi sunma eğilimi, tıp alanında hayati hatalara yol açabiliyor.

Son olarak Google’ın sağlık odaklı Med-Gemini modeli, bu endişelerin haklılığını gözler önüne serdi. Mayıs 2024’te yayımlanan bir akademik çalışmada, Med-Gemini’nin radyoloji laboratuvarında beyin taramalarını analiz etme testinde, raporlarından birinde “basilar ganglia” isimli hayali bir beyin bölgesinden bahsettiği ortaya çıktı.

Gerçekte Böyle Bir Bölge Yok

Nörolog Bryan Moore, bu terimin nörolojide bulunmadığını fark ederek durumu yetkililere bildirdi. Google, hatayı “basal ganglia” ile “basilar artery” terimlerinin karışmasına bağlayarak “yazım hatası” şeklinde açıkladı. Ancak uzmanlara göre, iki harflik fark bile tıp dünyasında hayati riskler doğurabiliyor.

Uzmanlardan Sert Uyarı

Providence sağlık sisteminin tıbbi bilgi direktörü Maulin Shah, “İki harf farkı ama çok büyük bir mesele. Bu tür hatalar son derece tehlikeli” ifadelerini kullandı. Shah, yapay zekanın tıpta kullanımında hata toleransının, insan hatalarının çok altında olması gerektiğini vurguladı.

Potansiyel Var, Ama Risk Büyük

Google, Med-Gemini’nin röntgen, BT taramaları ve diğer medikal görüntülerden hastalık tespitinde büyük potansiyele sahip olduğunu savunuyor. Ancak uzmanlar, yüksek riskli sağlık ortamlarında yapay zekanın hata yapma olasılığının en aza indirilmeden yaygın kullanıma geçilmesinin, ciddi sonuçlar doğurabileceğini belirtiyor.