Mbi një milion përdorues të ChatGPT dërgojnë çdo javë mesazhe që tregojnë qëllime ose plane të qarta vetëvrasëse, sipas një hulumtimi të ri të publikuar nga OpenAI.
Sipas raportit, rreth 0.07% e përdoruesve aktivë në një javë të caktuar tregojnë gjithashtu shenja të mundshme të çrregullimeve mendore, përfshirë psikozën ose maninë.
Të dhënat publikohen në një moment kur kompania amerikane e inteligjencës artificiale po përballet me rritje të shqetësimeve publike dhe ligjore, pas padisë së ngritur nga familja e një adoleshenti që kreu vetëvrasje pas përdorimit intensiv të ChatGPT-së.
Muajin e kaluar, Komisioni Federal i Tregtisë (FTC) në SHBA nisi një hetim të gjerë ndaj kompanive që zhvillojnë chatbotë të bazuar në inteligjencë artificiale, përfshirë OpenAI, me qëllim të vlerësimit të ndikimit të tyre tek fëmijët dhe adoleshentët.
Në përgjigje të shqetësimeve, OpenAI ka theksuar se përditësimi i fundit i modelit të saj, GPT-5, përfshin masa të përmirësuara sigurie për përdoruesit dhe akses të zgjeruar në linjat telefonike të krizave.
Kompania njoftoi gjithashtu se ka rekrutuar 170 mjekë nga rrjeti global i ekspertëve të kujdesit shëndetësor, të cilët po ndihmojnë në studime dhe zhvillimin e protokolleve të reja të ndërhyrjes për situatat e rrezikut.
