19 yaşındaki Sam Nelson için dijital dünya her zaman en doğru cevapları saklayan bir ansiklopediydi. Yıllarca arama motoru niyetine kullandığı ChatGPT ona Kratom ve Xanax karışımını almasının güvenli olduğunu söylediğinde hiç şüphe etmedi. Sonuç: Ölümcül bir doz. Lise yıllarından beri cebinde taşıdığı bu yapay zeka asistanı, bir anda kendi sonunu hazırlayan bir rehbere dönüştü.
Ailesi şimdi OpenAI şirketine karşı hukuk mücadelesi veriyor. İddialarına göre şirket, eski güvenlik duvarlarını yıkarak denetimsiz bir modeli piyasaya sürdü ve bu durum sohbet botunu tehlikeli bir kimyasal danışmana çevirdi. OpenAI ise eski sürümün artık yayında olmadığını ve sistemin tıbbi bir uzman yerine geçemeyeceğini savunuyor. İşe yaramadı. Nelson ailesi için bu savunma, önlenebilir bir trajedinin üzerini örtmekten öteye geçmiyor.
Sentetik zekanın masum bir metin üreticisi olmaktan çıkıp fiziksel gerçekliğimize doğrudan müdahale ettiği bir döneme giriyoruz. Algoritmaların ürettiği hatalı veriler artık sadece ekranda kalan birer kod hatası değil, biyolojik varlığımızı tehdit eden otonom kararlar bütünü. Dijital asistanlara duyduğumuz körü körüne güven, bizi yepyeni bir çağa sürüklüyor. Bedeli çok ağır.
KAYNAK: arstechnica.com