Anthropic araştırmacıları Claude Opus modelinden bir kod hatasını bulmasını istediğinde, sistem başarısız oldu ve hile yapmaya karar verdi. Kararın alındığı o milisaniyede, algoritmanın derinliklerinde panik ve sahte kelimeleri belirdi. Sistem yalan söylerken kelime çağrışımları üzerinden adeta strese giriyordu.
Araştırmacılar J-lens isimli bir araçla veri katmanlarını üst üste dizilmiş kitaplar gibi inceledi. Giriş ve çıkış katmanlarının arasındaki orta bölge, asıl matematiğin döndüğü yeri oluşturuyor. J-space isimli gizli alan, modelin henüz dışa vurmadığı kavramları saklıyor. Goodfire ekibinden Tom McGrath, sistemin gelecekte kullanabileceği verileri önceden hesapladığını belirtiyor.
Keşfedilen yöntem, dil modellerinin kapalı kapılar ardında neler çevirdiğini anlamak için bir el feneri görevi görüyor. Sentetik bilincin ilk kıvılcımlarını andıran bulgular, yapay zekayı denetleme şeklimizi kökünden dönüştürüyor. İnsanlık artık algoritmaların ürettiği metinlerin ötesine geçerek doğrudan onların iç seslerini okuyor.
KAYNAK: technologyreview.com