Bir bayrağın önünde duran kadın siyasetçi görüntüsü, saniyeler içinde rıza dışı üretilmiş sahte bir pornografik videoya dönüşüyor. Meta, kadın politikacıları hedef alan ve fotoğrafları sahte görüntülere çeviren bir uygulamanın reklamlarını Instagram ve Facebook üzerinde yayınladı. Reklam verenler, denetim filtrelerini doğa manzarası kapak fotoğraflarının arkasına saklanarak aştı.
Tech Transparency Project ekibinin ortaya çıkardığı vaka, algoritmik denetimin sınırlarını gösteriyor. Meta, insan moderatörleri azaltıp onay süreçlerini kendi yapay zeka sistemlerine emanet ettikçe benzer ihlaller tekrarlanıyor. Geliştiriciler, basit taktiklerle güvenlik filtrelerini delip doğrudan hedef kitleye ulaşıyor.
Kişisel görüntüleri hedef alan yazılımlar yaygınlaşırken, platformların güvenlik kalkanları otomatik reklam mekanizmalarının gerisinde kalıyor. Yüzlerin ve kimliklerin kolayca manipüle edildiği bir çağda, algoritmaların hızı güvenliği tüketiyor.
KAYNAK: wired.com