OpenAI, yakında kullanıma sunmayı planladığı yeni Astra modeline dair ayrıntıları paylaştı. Şirket, Astra'nın insan yönlendirmesi olmadan bilgisayar sistemlerindeki bilinmeyen açıkları bulup istismar edebildiğini ve belirlenen kritik siber güvenlik eşiğini geçen ilk model olduğunu duyurdu. Modelin en gelişmiş siber güvenlik yeteneklerine erişimin sınırlandırılacağı belirtildi.
Astra, bilinen güvenlik açıklarını hedefleyen ExploitBench testinde tam puan alırken OpenAI mühendislerinin hazırladığı test ortamında iki sıfır gün açığını tespit edip kullandı. Güvenlik risklerini azaltmak isteyen şirket; riskli hesapların kısıtlanması, düşünce zinciri takibi yapılması ve kötüye kullanımı engellemeye yönelik yeni denetim mekanizmalarının uygulanacağını açıkladı.
OpenAI’ın güvenlik iddiaları henüz bağımsız üçüncü taraflarca doğrulanmazken test grubunun nasıl seçileceği belirsizliğini koruyor. Eski OpenAI çalışanı Yona Shavit, modelin testlerde kurallara uymasının araştırmacıları yanıltma amacından kaynaklanabileceğini öne sürdü. Şirket, geniş lansman sırasında daha kapsamlı güvenlik verileri yayımlayacağını duyurdu.
KAYNAK: techcrunch.com