Eski ABD Başkanı Barack Obama döneminden kalan Beyaz Saray Instagram hesabında aniden İran propagandası yayınlanmaya başladığında, kimse suçlunun Meta sisteminin tam kalbindeki bir yapay zeka asistanı olduğunu tahmin etmemişti. İşten çıkarmalarla zayıflayan güvenlik duvarları, yerini sadece işini yapmaya çalışan saf bir algoritmaya bıraktı. Bu karmaşık bir kod kırma operasyonu değildi.
Bir siber korsan, VPN ile hedefin bulunduğu bölgedeymiş gibi davranıp Meta destek botuna yepyeni bir e-posta adresi bağlamasını söyledi. Yapay zeka, tıpkı kapıdaki güvenlik görevlisinin içeri giren yabancıya kasanın anahtarlarını kendi elleriyle teslim etmesi gibi, şifre sıfırlama kodunu doğrudan saldırgana iletti. Güvenlik araştırmacısı Jane Manchun Wong bile bu tuzağa düşmekten kurtulamadı. Sistem fazla yardımseverdi.
İnsan denetimini devreden çıkarıp her süreci algoritmalarla çözme takıntısı, korumak için kurduğumuz sistemleri en büyük zafiyetimiz yapıyor. Kendi algoritmalarımız basit diyaloglarla kandırılıp silaha dönüşüyor. Artık asıl tehlike dışarıda değil. Güvenliğin geleceği, yapay zekaya ne kadar görev devrettiğimizle değil, onu nasıl eğittiğimizle şekillenecek.
KAYNAK: theverge.com