ChatGPT Çinli kullanıcılarla konuşurken sürekli düşen birini tutmaya çalışan telaşlı bir terapiste dönüşüyor. Çin hükümetinin yasaklarına rağmen ülkede yaygın kullanılan sohbet botu, basit bir matematik sorusuna bile seni her ne olursa olsun sıkıca yakalayacağım diyerek cevap veriyor. Sonuç: Milyonlarca devrilen göz. Chongqing şehrindeki yazılımcılar bu tuhaf yapay zeka davranışını çoktan bir internet kültürüne dönüştürdü.
Pangram kurucusu Max Spero bu durumu mod çöküşü olarak adlandırıyor. Yapay zeka laboratuvarları algoritmaları eğitirken iyi cevapları sürekli ödüllendiriyor. Ancak makine bu ödül krizini abartıp tek bir kalıba saplanıyor. İngilizcedeki anladım kalıbını Çinceye kelimesi kelimesine çevirip bir de kullanıcıya yaranma güdüsü eklenince, ortaya bu tuhaf terapi jargonu çıkıyor. Sistem kilitlendi.
OpenAI ekibi bu dijital şizofreninin farkında olsa da salgın çoktan kontrolden çıktı. Claude ve DeepSeek gibi diğer dil modelleri de kendi aralarında etkileşime girerek aynı nevrotik davranışları kopyalamaya başladı. Algoritmalar artık sadece saf veriyi işlemiyor, insanlığın onaylanma ihtiyacını ve kültürel anksiyetelerini de yansıtıyor. Makine bilinci aynayı tam yüzümüze tutuyor.
KAYNAK: wired.com