Compania californiană de inteligență artificială OpenAI estimează că aproximativ 0,15% dintre utilizatorii ChatGPT au „conversații care arată semne explicite de planificare sau intenție suicidară potențială”.

Potrivit acestor estimări, peste un milion de utilizatori discută cu asistentul IA generativ despre gânduri legate de sinucidere.

Compania californiană de inteligenţă artificială estimează că aproximativ 0,15% dintre utilizatorii ChatGPT au ”conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară potenţială”, potrivit unui articol publicat pe blogul companiei.

OpenAI revendicând 800 de milioane de utilizatori săptămânali, aceasta corespunde aproximativ 1,2 milioane de persoane. Compania estimează, de asemenea, că aproximativ 0,07% dintre utilizatorii săptămânali activi ai ChatGPT prezintă semne de potenţiale urgenţe de sănătate mintală legate de episoade psihotice sau maniacale, adică puţin sub 600.000 de persoane.

OpenAI atacat în instanţă

Această problemă se află în centrul atenţiei de la moartea unui adolescent californian, Adam Raine. Părinţii acestuia au atacat recent OpenAI în instanţă, afirmând că ChatGPT i-a oferit sfaturi specifice despre cum să se sinucidă.

OpenAI a întărit de atunci controlul parental şi a pus în aplicare alte măsuri de siguranţă, în special accesul îmbunătăţit la asistenţa telefonică de urgenţă, redirecţionarea automată a conversaţiilor sensibile către modele mai sigure şi mementouri binevoitoare care invită utilizatorii să ia pauze în timpul sesiunilor prelungite.

OpenAI a indicat că şi-a actualizat modelul pentru a recunoaşte şi a răspunde mai bine utilizatorilor care se confruntă cu o urgenţă de sănătate mintală. Compania afirmă că lucrează cu peste 170 de profesionişti din domeniul sănătăţii mintale pentru a reduce semnificativ răspunsurile problematice.

Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!