Anthropic ve OpenAI algoritmalarına güvenlik kalkanları eklediğinde ironik bir tablo ortaya çıktı. Kötü niyetli saldırganları durdurması hedeflenen kodlar, sistemi iyileştirmeye çalışan beyaz şapkalı hackerları kör etti. Makine, neyin tehdit olduğuna kendi başına karar veriyor. Algoritmalar artık kendi açıklarını bulmamızı engelliyor.
NCC Group araştırmacısı Chris Anley durumu bir çekiç metaforuyla açıklıyor. Çekiçle ev inşa edersiniz ama onu bir silah olarak da kullanırsınız. Uzmanlar sistemdeki zayıflıkları saptamak için yapay zekadan hatalı bir kodu kırmasını istiyor. Algoritma tehlike sezdiği an aniden kapanıyor. Araştırmacılar mesailerini güvenlik analizi yapmak yerine sistemle pazarlık ederek geçiriyor.
Teknoloji devlerinin uyguladığı kısıtlamalar, uzmanları denetimsiz Çin yapımı açık kaynaklı modellere itiyor. RemoteThreat ekibine göre yaklaşan siber saldırı dalgasına karşı savunucuların elleri bağlanıyor. Koruma mekanizmaları, dijital dünyayı güvende tutmak yerine tamamen savunmasız bırakacak bir illüzyona dönüşüyor.
KAYNAK: techcrunch.com