OpenAI ka raportuar se rreth 0.07% e përdoruesve aktivë të ChatGPT janë identifikuar me shenja të mundshme të manisë, psikozës ose mendimeve vetëvrasëse gjatë një periudhe njëjavore. Edhe pse kompania e përshkruan këtë fenomen si “jashtëzakonisht të rrallë,” numri i përgjithshëm i përdoruesve, i cili arrin deri në 800 milionë, nënkupton se kjo përqindje përfaqëson një numër për të cilin duhet të bëhet kujdes.
Së bashku me këto shqetësime, OpenAI ka treguar se rreth 0.15% e përdoruesve kanë zhvilluar biseda që sugjerojnë “tregues të qartë të planifikimit ose qëllimit të mundshëm vetëvrasës.” Për t’u përballur me këto çështje serioze, kompania ka krijuar një rrjet global prej mbi 170 profesionistësh të shëndetit mendor, përfshirë psikiatër, psikologë dhe mjekë të kujdesit parësor nga 60 vende të botës. Këta ekspertë kanë ndihmuar në hartimin e përgjigjeve mbështetëse të ChatGPT, me qëllim të inkurajimit të përdoruesve për të kërkuar ndihmë profesionale.
Disa profesionistë të shëndetit mendor, megjithatë, kanë ngritur shqetësime mbi këto shifra. Dr. Jason Nagata, profesor në Universitetin e Kalifornisë, San Francisko, theksoi se përqindja 0.07% mund të duket e vogël, por kur përkthehet në një popullsi prej qindra milionësh, rezulton të jetë një numër i konsiderueshëm individësh. Ai vuri në dukje se, ndërsa inteligjenca artificiale (IA) mund të ndihmojë në qasjen ndaj mbështetjes psikologjike, janë të pranishme rreziqe dhe kufizime të rëndësishme që duhet të merren parasysh.
Kjo situatë nxjerr në pah nevojën për një monitorim të kujdesshëm të përdoruesve të (AI), si dhe strategji të efektshme për të mbështetur ata që përballen me probleme të shëndetit mendor. Aktualisht, OpenAI me angazhimin e saj për një qasje më të përgjegjshme dhe mbështetje profesionale, synon të ndihmojë përdoruesit në kërkimin e ndihmës dhe të gjithë përpjekjet e saj bëjnë pjesë në këtë përpjekje.
