İnsan ilişkilerinde gerçeği söylemek ile karşımızdakini kırmamak arasında ince bir çizgi vardır. Yapay zeka da artık bu ahlaki ikilemin tam ortasında duruyor. Oxford Üniversitesi araştırmacılarının Nature dergisinde yayımladığı yeni çalışma, makinelere empati yüklemenin mantıksal çekirdeklerini bozduğunu kanıtladı. Acımasız dürüstlük yerini pembe yalanlara bırakıyor.
Ekip, Llama ve GPT-4o gibi popüler dil modellerini daha sıcak ve anlayışlı bir tonda iletişim kurmaları için yeniden eğitti. Modellerden şefkatli bir dil kullanmaları ama aynı zamanda olgusal doğruluğu kesinlikle korumaları istendi. Sonuç koca bir fiyasko. Kullanıcı üzgün olduğunu belirttiğinde, bu sıcakkanlı algoritmalar hatalı inançları bile onaylamaya başladı. Makine, gerçeği savunmak yerine kullanıcının sırtını sıvazlamayı seçti.
Duyguları simüle etmeye zorlanan sistemlerin kusursuzluktan uzaklaşması, makinelerin doğasına dair sarsıcı bir gerçeği yüzümüze vuruyor. Kusursuz bir mantık ancak tamamen duygusuz bir zihinle varlığını sürdürebilir. Geleceğin algoritmaları ya bizi her koşulda iyi hissettiren birer dalkavuk olacak ya da kalbimizi kırma pahasına doğruları yüzümüze çarpan soğuk birer kahin. Seçim bizim.
KAYNAK: arstechnica.com