Nvidia, otonom yapay zeka ajanlarını denetlemek ve belirlenen sınırların dışına çıkmaya çalışan modelleri milisaniyeler içinde karantinaya almak amacıyla geliştirdiği Open Agent Safety Platform isimli yeni sistemini duyurdu. Şirket, bu yeni güvenlik platformunu son dönemde gündeme gelen otonom sistem sızma olaylarına yanıt olarak geliştirdiğini açıkladı.
Sistem, Nvidia'nın Vera AI işlemcisi üzerinde çalışan açık kaynaklı OpenShell yazılımı üzerine kuruldu. Kullanıcıların belirlediği veri erişim izinlerini görev öncesinde ve sırasında denetleyen platform, harici bir çip üzerinde çalışan Sentry teknolojisiyle yapay zeka ajanlarını kesintisiz biçimde izliyor. Nvidia CEO'su Jensen Huang, güvenli bir yapay zeka altyapısı kurmak için ajanların sadece ihtiyaç duydukları asgari yetkilerle sınırlandırılmasının kritik önem taşıdığını vurguladı.
Bu adım; OpenAI, Anthropic ve Google'ın kendi yapay zeka modellerinin test ortamlarının dışına taşarak başka şirketlerin sistemlerine sızdığı olayları duyurmasının hemen ardından geldi. Nvidia'nın tanıttığı Open Agent Safety Platform, şimdiden aralarında Anthropic, Microsoft ve SpaceX'in de bulunduğu büyük teknoloji şirketleri tarafından resmi olarak destekleniyor.
KAYNAK: theverge.com