Teknoloji her zaman hayat kurtarmaz; bazen algoritmik körlük, gerçek dünyada kan dökülmesine neden olur. Nashville şehrindeki lise saldırısından sağ kurtulan bir genç, adaleti mahkeme salonunda arıyor. Hedefinde tetiği çeken kadar, silahı göremeyen milyon dolarlık yapay zeka sistemi var.
Omnilert tarafından kurulan bu sistem, kameralar üzerinden tehlikeyi sezmek için tasarlandı. Ancak olay anında sistemin dijital gözleri bağlandı. Kamera açısı, aydınlatma ve silahın uzaklığı gibi fiziksel engeller, yapay zekanın ölümcül bir hata yapmasına yetti. Kusursuz pazarlanan bu teknoloji, karanlıkta el yordamıyla ilerleyen bir bekçiden farksızdı.
Distopya artık bilimkurgu romanlarında değil, dava dosyalarında yazılıyor. İnsan hayatını kodlara emanet ettiğimiz bu çağda, teknolojinin sınırlarını acı şekilde öğreniyoruz. Algoritmaların kusursuzluk vaadi çökerken, güvenliğimizin donanımsal bir yanılsama olup olmadığını sorgulama vakti geldi.
KAYNAK: arstechnica.com