Bristol sokaklarında yürüyen yarım milyon insan, yıllarca devasa bir suç tahmin makinesinin içinde puanlandıklarından habersizdi. İngiliz polisi, okul yemeklerinden zihinsel sağlık kayıtlarına kadar en hassas verileri toplayıp, kimin suç işleyeceğini önceden bilmeyi vadeden algoritmik bir falcı yarattı.
Avon ve Somerset Polisi ile yerel yetkililerin kurduğu bu gözetim ağı, dev bir veri kazanına atılan malzemelerden kusursuz bir risk skoru çıkaracağını sandı. Ancak bağımsız denetimler, sistemin hırsızlık tahminlerinde yüzde ondan bile daha az isabet oranına sahip olduğunu kanıtladı. Algoritma, mağdurları suçlulardan daha tehlikeli gösteriyor, masum çocukları yanlış etiketliyor ve şeffaflıktan tamamen uzak çalışıyordu. İşler çığırından çıkınca yetkililer hatalı modelleri sessizce rafa kaldırdı.
Bu gözetim deneyi çökse de İngiltere hükümeti yapay zekayı tüm ülkeye yaymak için yeni fonlar ayırıyor. Hatalı kodların insan hayatı üzerinde bu kadar yetki sahibi olduğu bir dünyada, asıl suçlu belki de bizi koruması gereken sistemin ta kendisidir.
KAYNAK: wired.com