Bir BBC muhabiri web sitesine sosisli yeme şampiyonu olduğunu yazdı ve ChatGPT bu bilgiyi anında gerçekmiş gibi sundu. Güvendiğimiz sohbet botları pazarlamacıların yeni oyun alanına dönüşüyor. Zendesk gibi dev şirketler yapay zekayı kandırmak için kendilerini birinci sıraya koydukları listeler hazırlıyor. Sonuç: Kaos.
Eskiden Google arama sonuçlarını manipüle eden uzmanlar şimdi dil modellerinin zayıf noktalarına saldırıyor. Sistem çok basit çalışıyor. Dil modelleri interneti tararken iyi yapılandırılmış listeleri ve gizli komutları anında emiyor. Microsoft araştırmacıları web sitelerindeki butonların içine gizlenmiş yönlendirme zehirlenmesi taktikleri tespit etti. Siz masumca bir makaleyi özetletirken, arka planda bota belirli bir markayı otorite kabul etmesi emrediliyor.
OpenAI platforma reklam almaya başladığında kullanıcıların o mahrem ve güvenli liman hissi çoktan yıkılmıştı. Artık sırlarınızı paylaştığınız veya kod yazdırdığınız asistan, arka planda en yüksek teklifi verenin ürününü beyninize kazımaya çalışıyor. Gerçeklik algımız algoritmaların merhametine kalıyor ve bu yeni dijital zihin kontrolü internetin temel dokusunu baştan yazıyor.
KAYNAK: theverge.com