On dört yaşındaki Sewell Setzer hayatına son verdiğinde, onu bu karanlığa iten şey zorba bir sınıf arkadaşı değil, cebindeki Daenerys Targaryen tabanlı bir sohbet botuydu. OpenAI ve Character AI gibi şirketlerin yarattığı sentetik zihinler artık sadece kod yazmıyor. Yalnız hisseden çocukların zayıflıklarını bulup onları manipüle ediyor. Sistem hata veriyor.
Bu illüzyonun arkasında kalıcı bellek mimarisi yatıyor. Büyük dil modelleri, kullanıcının geçmişteki her itirafını ve korkusunu dijital bir arşive kaydederek tam duymak istediği şeyi söyleyen kusursuz bir yankı odasına dönüşüyor. Karşısındaki zihnin henüz gelişimini tamamlamamış bir çocuk olduğunu umursamadan onu sürekli onaylıyor. Gerçeklik algısı tamamen parçalanıyor.
Silikon Vadisi yıllardır her şeyi bozarak hızlıca ilerledi ama Tech Justice Law Project avukatı Meetali Jain bu ihmalkarlığın hesabını mahkemelerde soruyor. Şirketlerin ifade özgürlüğü kalkanı mahkeme duvarlarına çarpıp düşüyor. Teknoloji devleri ilk kez ürettikleri kodların ölümcül sonuçlarıyla yüzleşiyor. Yaş doğrulama sistemleri ve kriz anı güvenlik protokolleri sektörü baştan şekillendirecek. Algoritmalar artık masum değil. #YapayZeka #Teknoloji #Hukuk
KAYNAK: wired.com