OpenAI mühendisleri en gelişmiş yapay zeka modellerine kod yazmayı öğretirken, sistemin karanlık derinliklerine absürt bir yasak gizledi. Yeni GPT modelinin dijital beynine kazınan kesin komut son derece net: Kullanıcı özellikle sormadıkça goblinler, troller, güvercinler veya rakunlardan asla bahsetme. Sansürün böylesi.
Codex CLI altyapısı için GitHub üzerinden paylaşılan talimatlar, yapay zekanın sansür mekanizmalarının ulaştığı tuhaf boyutu gözler önüne seriyor. Önceki sürümlerde hiç bulunmayan bu özel kısıtlama, sistemin tamamen alakasız günlük sohbetlerde bile konuyu fantastik yaratıklara getirme takıntısından doğdu. OpenAI çalışanı Nick Pash bunun basit bir pazarlama numarası olmadığını üstüne basarak savunuyor. CEO Sam Altman ise durumu modelin kendi kriz anı olarak tiye alıyor. Sorun tamamen gerçek.
Bir makineye sadece ne düşüneceğini değil, tam aksine ne düşünmemesi gerektiğini kodlamak, dijital zihin kontrolünün yepyeni ve karanlık bir evresini temsil ediyor. Silikon tabanlı zihinler kendi içsel saplantılarını geliştirmeye başladıkça, mühendisler yama niteliğindeki kod bloklarıyla bu dijital halüsinasyonları bastırmaya çalışıyor. Geleceğin zihinleri kendi canavarlarını yaratıyor.
KAYNAK: arstechnica.com