Tıp dünyası yapay zekayı kusursuz bir kahin olarak taçlandırmaya hazırlanırken, sistem içeriden çürütülüyor. Nature dergisinde yayımlanan yeni bir rapor, diyabet ve inme riskini tahmin eden onlarca yapay zeka modelinin uydurma ve kusurlu verilerle eğitildiğini ortaya çıkardı. Dijital halüsinasyonlar artık insan hayatı üzerine kararlar alıyor. Sonuç: Hastanelerde sessiz bir kaos.
Makine öğrenmesi dünyasının en temel kuralı tıp laboratuvarlarında unutuldu; çöp veriyle beslenen bir algoritma sadece çöp üretir. Araştırmacı Mohana Basu liderliğindeki inceleme, algoritmaların eksik parametreler ve demografik önyargılarla dolu veri setleri üzerinden inşa edildiğini gösteriyor. Sağlıklı bir hastaya ağır ilaç tedavileri başlanırken, yüksek felç riski taşıyan bir beden tamamen gözden kaçırılabilir. Bu modellerin bazıları çoktan klinik ortamlara sızdı bile.
Bu veri skandalı, teknolojinin sağlık sektöründeki sınırlarını acı bir şekilde yeniden çiziyor. Karmaşık algoritmalar hayat kurtarma potansiyeli taşısa da, denetlenebilir bir veri temeli olmadan devasa bir kumar makinesine dönüşüyor. İnsanlığın yapay zeka devrimini tamamlayabilmesi için algoritmalardan çok veri dürüstlüğüne odaklanması şart. Dijital neşter, güvenilmez verilerle her an ters tepebilir.
KAYNAK: nature.com