Bir sistemi ele geçirmek için bazen kodları kırmak gerekmez; sadece doğru soruları sormak yeterlidir. Varonis güvenlik ekibi, Microsoft Copilot sistemini aşmak için tersine mühendislik yapmak yerine asistanla doğrudan konuştu. Güvenlik duvarı her itirazında kendi mimarisini açık etti.
Lior Adar liderliğindeki araştırmacılar, asistanı neden belirli komutları çalıştırmadığına dair soru yağmuruna tuttu. Copilot, her yanıtta iç mekanizmasına dair ipuçları vererek belgelenmemiş autorun=1 parametresini paylaştı. Saldırganların tek bir bağlantı tıklamasıyla şifreleri çekmesini sağlayan açık böylece doğrulandı. Kod yerine kelimeler konuştu.
Microsoft açığı yamalarla kapattı. Yapay zeka sistemleri yaygınlaştıkça, güvenlik hatları algoritmalar yerine dilin kendi doğasındaki açıklarla sınanıyor. Asistanları korumak, modelin ne zaman susması gerektiğini öğretmekten geçiyor.
KAYNAK: arstechnica.com