Yapay zekanın kontrolden çıkıp siber saldırı düzenleme ya da biyolojik risk üretme ihtimalini hesaplayan masa boşaltıldı. OpenAI, felaket senaryolarını denetleyen hazırlık birimini dağıttı. Halka arza hazırlanan şirkette güvenlik mekanizmaları geriye çekiliyor.
Modellerin oluşturduğu tehlikeleri inceleme görevi, parçalanarak mevcut departmanlara devredildi. Süperhizalanma ekibini daha önce tasfiye eden şirket; Chloé Bakalar ve Jan Leike gibi kritik isimleri kaybetti. Ekip lideri Dylan Scandinaro ise odağını kendi kendini geliştiren sistemlere çevirdi. Denetim süreçleri, yeni ürün temposunun gerisinde kalıyor.
Piyasa baskısı, uzun vadeli risk analizlerini sistemden ayıklıyor. Güvenlik filtrelerinin hafifletildiği bir rekabet, denetimsiz kodları doğrudan kullanıcıyla buluşturacak. Hız kazanırken kontrolü devretmek, geleceğin en somut gerçeğine dönüşüyor.
KAYNAK: theverge.com