Düne kadar sadece sorularımızı yanıtlayan yapay zeka, artık kendi başına finansal işlemler yapıyor ve veri sızdırıyor. MIT Technology Review ekibinin analizine göre, pasif sohbet botları yerini saniyeler içinde binlerce karmaşık karar alabilen bağımsız ajanlara bıraktı. Bebeklik evresi resmen bitti.
Bu yeni dijital iş gücü, basit bir görevi tamamlarken yazılımlar arasında zincirleme eylemler gerçekleştirip öngörülmeyen yetkiler elde edebiliyor. İzin karmaşası adı verilen bu durum devasa bulut maliyetleri yaratıyor. İnsan gözetimi artık çok yavaş. Yeni yürürlüğe giren Kaliforniya AB 316 yasası ise kuralları yeniden yazıyor. Otonom makinenin yaptığı her hatanın yasal faturası doğrudan şirket sahibine kesiliyor.
Kurumların bu makine hızına ayak uydurabilmesi için operasyonel güvenliği doğrudan ajanların koduna işlemesi ve görev bitiminde kendi kendini güvenle kapatan proaktif sistemler kurması şart. İnsanlık, dijital sistemler üzerindeki kontrolünü makinelere devrettiği o geri dönülemez eşikten geçiyor. Bilimkurgu distopyası artık laboratuvarlarda yazılan bir belgesele dönüştü. #YapayZeka #OtonomAjanlar #TeknolojiTrendleri
KAYNAK: technologyreview.com