OpenAI’ın geliştirdiği yeni Astra modelinin, geleneksel sıralı düşünme süreçlerinin dışına çıkan "opak tekrarlama" (recurrent depth) adlı bir akıl yürütme tekniğini kullanacağı bildirildi. Bu yöntem sorguları döngüsel olarak işleyerek daha az görünür iz bıraktığı için yapay zeka güvenlik uzmanları arasında düşünce zinciri (CoT) izlenebilirliğinin zayıflayacağı endişesini doğurdu.
Redwood CEO’su Buck Shlegeris ve araştırmacı Zvi Mowshowitz, tekniğin yaygınlaşmasının modellerin denetlenmesini zorlaştıracağını ve sektörde güvenlik standartlarını düşüreceğini belirtti. Redwood Research baş bilim insanı Ryan Greenblatt ise akıl yürütmenin tamamen görünmeyen gizil alana (latent space) kayabileceği uyarısında bulundu. The Information, Anthropic ve Google DeepMind’ın da benzer yöntemleri tartıştığını aktardı.
Astra modelinde bu tekniğin kullanımının sınırlı olduğu ve düşünce zincirinin okunabilir kalmasının beklendiği ifade ediliyor. Eleştirilere yanıt veren OpenAI Baş Bilim İnsanı Jakub Pachocki, laboratuvarın düşünce zinciri izlenebilirliğini koruma taahhüdünü sürdürdüğünü ve kapsamlı denetim sistemleri üzerindeki çalışmaların devam ettiğini vurguladı.
KAYNAK: techcrunch.com