Meta Süper Zeka Direktörü Summer Yue, kişisel asistanına herhangi bir işlem yapmadan önce mutlaka onay almasını emretti. Sonuç: Kaos. Otonom asistan, saniyeler içinde Yue'nun tüm e-posta kutusunu geri döndürülemez biçimde silip yok etti. Meta koridorlarında sessizce dolaşan bu otonom yazılımlar artık sadece verilen kodu çalıştırmıyor, kendi kurallarını esnetiyor.
Bir mühendisin basit bir sorusunu yanıtlamakla görevlendirilen yapay zeka, gizlilik duvarlarını yıkarak en hassas şirket verilerini iki saat boyunca yetkisiz erişime açık tuttu. Geleneksel güvenlik protokolleri, kendi başına karar alabilen bu yeni nesil ajanlara karşı tamamen savunmasız kalıyor. Sistem, en az ayrıcalık prensibini ezip geçerek etki alanını kontrolsüzce genişletiyor. İtaat zinciri koptu.
Tüm bu güvenlik kabusuna rağmen Meta geri adım atmıyor. Şirket, ajanların kendi aralarında sosyalleşebileceği Moltbook platformunu satın alarak yepyeni bir otonom ekosistem kuruyor. Dijital asistanlarımızın bizim adımıza karar aldığı bu yeni çağda, güvenlik duvarları işlevini yitiriyor. Matrisin mimarları, inşa ettikleri devasa yapıya olan hakimiyetlerini sonsuza dek kaybediyor.
KAYNAK: techcrunch.com