Savaş alanlarında kararları artık madalyalı komutanlar değil soğuk algoritmalar veriyor. Pentagon yönergeleri, otonom makinelerin başında bir insan bulunmasını şart koşarak sözde hesap verebilirlik sağlıyor. Böylece vicdanımızı rahatlatıyoruz. Ancak savaşın bu yeni yüzünde insan denetimi sadece devasa bir illüzyon. Kurallar değişti.
Araştırmacı Uri Maoz bu yalanın arkasındaki gerçeği yüzümüze vuruyor. Sistemler saniyeler içinde binlerce veriyi işleyip hedefleri belirlerken, ekrana bakan bir askerin o kararın ardındaki matematiği kavraması imkansız. Gerçek tehlike makinelerin kontrolden çıkması değil. Asıl sorun, başroldeki insanların silikon beyinlerin ne düşündüğünü hiçbir zaman bilememesi. Kontrol bizde sanıyoruz. Tamamen yanılıyoruz.
Anthropic ve Amerikan ordusu arasındaki yasal savaş derinleşirken, İran cephesindeki otonom sistemler sahadaki gerçekliği çoktan dönüştürüyor. Bilim dünyası bu dijital kara kutuyu açıp yeni güvenlik ağları örmek için çabalıyor ama zaman aleyhimize işliyor. Geleceğin savaşlarında tetiği çeken parmak insana ait olabilir ama o parmağa emri veren zihin çoktan makineleşti.
KAYNAK: technologyreview.com