Yapay zeka artık kendi türünü avlıyor. OpenAI araştırmacıları, sistemlerindeki açıkları bulmak için GPT-Red adında bir hacker model eğitti. Makineler kapalı kapılar ardında birbirleriyle savaşıyor.
Sistem bir dövüş sanatları salonu gibi çalışıyor. Araştırmacı Nikhil Kandpal ve ekibinin kurduğu arenada, GPT-Red sürekli diğer modellere saldırırken kurbanlar savunma yapmayı öğreniyor. Saldırgan model, hedefini kandırmak için sahte düşünce zinciri taktiğini kullanıyor. Hedefin hafızasına sızıp 1+1=3 yazıyor ve kurbanını ikna ediyor. İnsan denetleyicilerin aylar sürecek işi saniyeler içinde bitiyor.
OpenAI, geçen yıl piyasaya sürdüğü GPT-5 modelini alt eden saldırıların oranını yeni GPT-5.6 sürümünde yüzde 23 seviyesine düşürmeyi başardı. İnsan yavaş yavaş güvenlik denetiminden çekilirken, algoritmalar kendi otonom savunma ağlarını inşa ediyor. Geleceğin siber savaşları bilgisayar başındaki hackerlar arasında geçmiyor. Kodlar, hayatta kalma savaşını yine kodlarla veriyor.
KAYNAK: technologyreview.com