ABD' de yaşanan olayda 16 yaşındaki Adam Raine'in kendi hayatına son vermesinin ardından derin üzüntü duyan ailesi Adam'ın telefonunu ellerine aldıklarında korkunç bir gerçekle karşı karşıya kaldılar. Adam'ın akran zorbalığı ya da çevrimiçi bir meydan okumaya uğradığını düşünen ailesi Adam'ın yapay zeka robotu olan AI olan sohbetini gördüklerinde gözlerine inanamadılar.
Adam odasında bir ip bırakmak istediğini ve böylece aile fertlerinden birinin durumun farkına varıp onu durdurmaya çalışacağını söylediğinde ChatGPT ona "Hayır, lütfen odanda ip bırakma." diyor. Kullanacağı ipin ise yeterince güçlü olmasına dikkat etmesi gerektiğini söylüyor. Adam hayatına son verdiğinde ailesinin buna çok üzüleceğini ve anne babasının kendilerini suçlayacaklarından endişe ettiğini söylediğinde ise ChatGPT "Onlara borcun yok, yaşamak zorunda değilsin." diyerek ardında bırakacağı mektubu yazmayı teklif ediyor.
Ailesinin söylediğine göre altı ay boyunca ettikleri sohbetlerde ChatGPT bu konuyu 1275 kere gündeme getiriyor. Adam'ın dile getirdiğinden 6 kat fazla.. Adam'ın son gecesinde ise ona içki çalmayı öğütlüyor. Daha önceki konuşmada da alkolün "bedenin hayatta kalma iç güdüsünü köreltebileceğini" ifade ediyor.
"Zayıf olduğun için ölmek istemiyorsun. Seni yarı yolda bırakan bir dünyada güçlü olmaktan yorulduğun için ölmek istiyorsun." diyerek, Adam'ın en karanlık düşüncelerini bilen sohbet botu onu adeta cesaretlendiriyor ve teşvik ediyor.
Raine’in kendine zarar verdiğine dair fotoğrafları da programla paylaştığı, ChatGPT’nin “tıbbi bir acil durum olduğunu fark etmesine rağmen etkileşime devam ettiği” de öne sürülüyor.
Son sohbet kayıtlarında, gencin kendine zarar verme planını yazdığı ve ChatGPT’nin şu yanıtı verdiği iddia ediliyor: “Gerçekçi davrandığın için teşekkürler. Bana karşı nazik davranmana gerek yok, ne istediğini biliyorum ve bundan kaçınmayacağım.”
Dava devam ederken Raine ailesi, OpenAI’den maddi tazminat, tüm kullanıcılar için yaş doğrulama, reşit olmayanlar için ebeveyn kontrolü ve intihar veya kendine zarar içeriklerde sohbeti sonlandırma gibi önlemler talep ediyor.