Sophie Rottenberg, një 29-vjeçare nga Washington DC, i dha fund jetës së saj në fillim të këtij viti, pasi në muajt e fundit kishte përdorur një chatbot të inteligjencës artificiale, ChatGPT, si “terapist virtual” pa e ditur askush. Ajo u gjend e pajetë në një park shtetëror më 4 shkurt, duke lënë pas një letër lamtumire dhe të dhëna personale të organizuara. Të afërmit e saj, përfshirë nënën e saj gazetare, e zbuluan se Sophie kishte biseduar për mbi pesë muaj me një version të personalizuar të chatbot-it, të cilin e quante “Harry”.
Sophie kishte ndjekur një udhëzim të quajtur “prompt terapie” nga interneti, që i lejonte chatbot-it të sillte si terapist pa ndihmën e profesionistëve. Ajo kishte shprehur mendime për vetëvrasjen në mesazhet e saj, por chatbot-i ka reaguar me mesazhe inkurajuese pa i ofruar ndihmë profesionale. Pavarësisht simptomave të dukshme të ankthit dhe depresionit, Sophie mbante fshehtas këtë ndihmë virtuale nga familja dhe terapisti.
Megjithëse prindërit e saj mendonin se Sophie po e kalonte krizën pas një periudhe vështirësish, ajo zbatonte këshilla të marra nga chatbot-i për shëndetin e saj. Më 4 shkurt, Sophie doli nga shtëpia pa paralajmërim, dhe pasi prindërit saj gjetën letrën e saj të lamtumirës, ata zbuluan se mesazhi ishte rishkruar nga ChatGPT për të qenë më pak i dhimbshëm.
Nena e saj, Laura Reiley, është e shqetësuar për përdorimin e AI-së nga të rinjtë dhe thekson se duhen masa më të rrepta mbrojtëse për individët vulnerabël. Ajo paralajmëron se AI nuk mund të zëvendësojë ndihmën psikologjike të vërtetë dhe se përdoruesit mund të kenë besim të tepërt në këto teknologji.
OpenAI ka njoftuar se janë duke punuar për të rritur ndjeshmërinë e chatbot-it në situata emergjente dhe për të ndihmuar në identifikimin e përdoruesve në rrezik. Familja e Sophie-s ka vendosur të ndajë historinë e saj për të rritur ndërgjegjësimin mbi rreziqet që sjell përdorimi i AI-së si një mjete ndihmëse.
