Teksas Austin sokaklarında devasa, parlak sarı renkli ve yanıp sönen ışıklarıyla bir okul otobüsünü gözden kaçırmak imkansızdır. Ancak Waymo sürücüsüz araçları için bu kütle görünmez bir hedefe dönüştü. Yerel okul yetkilileri, araçları eğitmek için şirkete özel test verileri sağladı. Sistem inatla öğrenmeyi reddetti ve defalarca kural ihlali yaptı. İşe yaramadı.
Sorun sadece Lidar veya radarların donanımsal kör noktası değildi. Sistem kararsız kaldığı anlarda Michigan Novi şehrindeki uzaktan destek merkezine bağlanarak operatöre kritik bir soru yöneltti. Başka bir sürücünün otobüsü geçtiğini gören insan operatör, yapay zekaya hatalı onay verdi. Kusursuz beklenen makine, kusurlu insan kararıyla birleşince sistem çöktü. Sonuç tam bir kaos.
İnsan sürücüler ceza yediğinde aynı hatayı tekrarlamazken, gelişmiş kod satırları fiziksel dünyanın doğasında bocalıyor. Silikon Vadisi ütopyası, çocuk güvenliği gibi temel toplumsal kırmızı çizgilerde iflas bayrağını çekiyor. Makinelerin dünyamızı istatistiksel bir simülasyon olarak görmekten vazgeçip gerçekliğe uyum sağlaması şart. #OtonomAraçlar #Waymo #YapayZeka
KAYNAK: wired.com