Utah polis departmanında bir memur, olay yerindeyken aniden kurbağaya dönüştü. En azından Axon firmasının yapay zeka tabanlı rapor yazılımı Draft One mahkemeye sunduğu belgede böyle yazıyordu. Arka planda çalan Disney filmini dinleyen algoritma, kolluk kuvvetlerinin dijital dönüşümünde sistemsel bir hataya imza attı.
Şirketler, polislerin boğulduğu veri okyanusunu anlamlandırmak için suç merkezleri kuruyor. Jason Truppi gibi eski FBI ajanlarının pazarladığı sistemler, acil çağrılardan vücut kamerası kayıtlarına kadar veriyi tek merkezde topluyor. Geçmişte PredPol örneğinde gördüğümüz polislik denemeleri, sosyoekonomik düzeyi düşük mahalleleri hedef alan verilerle eğitildiği için adaleti sağlamak yerine ayrımcılığı algoritmalaştırdı.
Karar verme yetkisinin insanlardan kod satırlarına geçmesi, gözetim altyapısını dönüştürüyor. Sokakları devriye gezen algoritmalar, suçluyu yakalama hızıyla adaletin şeffaflığı arasında kumar oynatıyor. İnsan iradesi, dijital panoptikonun içinde sıradan bir anomaliye dönüşme riski taşıyor.
KAYNAK: theverge.com