Bir zamanlar pizzaya yapıştırıcı sürmenizi öneren o saf yapay zeka, artık sadece masum halüsinasyonlar görmüyor; sizi aktif olarak tuzağa düşürüyor. Google'ın arama deneyimini iyileştirmek için sunduğu AI Overviews, dolandırıcıların elinde tehlikeli bir manipülasyon silahına dönüştü.
İşleyiş korkutucu derecede basit. Eski algoritmalar kaynağın otoritesine bakarken, bu yeni dil modelleri sadece tekrarı önemsiyor. Kötü niyetli aktörler içerik çiftlikleri kurarak aynı yalanı binlerce kez tekrarlıyor ve yapay zeka bu gürültüyü mutlak gerçek sanıp en tepeye taşıyor. Sistem artık doğruyu değil, en çok bağırılanı referans alıyor.
Bilginin bekçisi olması gereken algoritmalar, manipülasyonun birincil vektörü haline geldi. Dijital güven sözleşmesi ihlal edildi ve hakikat kavramı algoritmik gürültü içinde kayboluyor. Sistem artık kullanıcısını korumuyor, onu avlıyor.
KAYNAK: wired.com