Bilim dünyasının en sağlam zeminini oluşturan referans sistemi sessizce çöküyor. Columbia Üniversitesi araştırmacısı Maxim Topaz ve ekibi, 2,5 milyon biyomedikal makaleyi incelediğinde ürkütücü bir tabloyla karşılaştı. Sadece iki yıl içinde hiç var olmayan çalışmalara yapılan atıflar tam 12 kat arttı. Sonuç: Bilgi kirliliği.
Bu akademik yozlaşmanın arkasında üretken yapay zekanın kontrolsüz yükselişi yatıyor. Araştırmacılar makale yazarken dil modellerinden yardım aldıkça, sistem kulağa son derece akademik gelen ama aslında birer halüsinasyondan ibaret olan uydurma yazarlar ve başlıklar üretiyor. Ekip, bu hayalet referansları avlamak için 125 milyonluk veri setini yine yapay zeka kullanarak taradı. Sistem kendi yarattığı hastalığı teşhis etti.
Biyomedikal gibi doğrudan insan sağlığını etkileyen bir alanda sahte verilerin referans kabul edilmesi, gelecekteki tedavilerin yanlış temeller üzerine inşa edilmesi demek. Objektif gerçeklik artık algoritmalar tarafından hacklenebilen bir veri setine dönüştü. Bilim dünyası bu yapay zeka halüsinasyonlarına karşı bir bağışıklık sistemi geliştirmek zorunda. Aksi takdirde gerçeği kurgudan ayırmak imkansızlaşacak.
KAYNAK: nature.com