Teksas eyaletinin Katy şehrinde yaşayan Michael Butler, teslimat yaptığı sırada otomobilinin otonom sürüş sistemini fazla çekingen buluyordu. Polisin çıkardığı arama geçmişi, makinenin daha agresif olmasını arzuladığını gösteriyor. Sonuç, yetmiş altı yaşındaki Martha Avila'nın kendi evinin salonunda hayatını kaybetmesiyle biten bir cinayet suçlaması oldu.
Tesla mühendisleri ve polis ekipleri kaza verilerini incelediğinde, sürücü ile yazılım arasındaki itişme gün yüzüne çıktı. Araç saatte yüz on yedi kilometre hıza ulaşırken gaz pedalı sonuna kadar basılıydı. Sistem başlangıçta devredeydi, ancak insan müdahalesi yazılımın hız kontrolünü tamamen iptal etmişti. Kayıtlar, fren pedalına hiç dokunulmadığını kanıtlıyor.
Otonom sistemlerin karıştığı ölümlü kazalar, yapay zeka çağının hukuki sınırlarını zorluyor. Direksiyon başında bir makine varken gerçekleşen felaketlerde, sorumluluğun kime ait olduğu sorusu donanım üreticilerini ve sürücüleri karşı karşıya getiriyor. Mahkeme salonları, teknoloji ile insan doğasının çarpıştığı yeni savaş alanlarına dönüşüyor.
KAYNAK: theverge.com