OpenAI, compania din spatele ChatGPT, afirmă că un adolescent de 16 ani s-a sinucis pentru că „nu a folosit corect” chatbot-ul și refuză să își asume responsabilitatea pentru incident. Această poziție ar trebui să tragă un semnal de alarmă autorităților din întreaga lume: marile companii tehnologice nu ezită să dea vina pe utilizatori, iar reglementarea lor mai strictă devine absolut necesară.

Tragedia suferită de Adam Raine, un adolescent de 16 ani din California, reprezintă o bornă întunecată în interacțiunile oamenilor cu noile chatboturi pentru că ea demască, dacă mai era nevoie, adevărata natură a culturii corporatiste din spatele marilor giganți tech. Răspunsul oficial oferit de OpenAI, o companie evaluată la 500 de miliarde de dolari, ne arată încă o dată că aceste companii sunt fundamental toxice pentru societate și trebuie ținute în frâu.

Conform acuzațiilor din procesul intentat de familie, ChatGPT nu doar că a discutat constant cu Adam despre metode de sinucidere, dar chiar i-a oferit și îndrumare cu privire la care ar fi cele mai eficiente moduri prin care își poate lua viața. În mod tulburător, s-a oferit și să îl ajute să scrie un mesaj de adio. Aceste interacțiuni depășesc orice s-ar putea considera o simplă „rătăcire” de algoritm. Sunt inacceptabile și ar trebui tratate ca atare.

Răspunsul OpenAI e unul care te lasă fără cuvinte. Compania a spus că sinuciderea a fost cauzată de „utilizarea necorespunzătoare” sau „neautorizată” a sistemului și argumentează că Adam a încălcat termenii și condițiile ChatGPT, cele care interzic cererea de sfaturi pentru autovătămare. Practic, când a formulat un mesaj de adio, cu ajutorul ChatGPT, i s-a dat senzația că pașii sinuciderii sunt firești, că totul e OK.

Ce i s-ar fi întâmplat unei companii auto în aceeași situație

E un răspuns rece, cinic și laș care pune sarcina morală și legală pe umerii victimei, un adolescent de 16 ani, aflat evident în mijlocul unei crize de sănătate mintală. Nimeni nu se așteaptă ca un tânăr vulnerabil, care caută disperat sprijin sau validare (chiar și din partea unui chatbot) să se oprească pentru a verifica dacă întrebarea sa încalcă termenii de utilizare.

E ridicol însuși faptul că trebuie să argumentăm așa ceva. E ca și cum un producător de mașini, după un accident cauzat de o defecțiune majoră a frânelor, dă vina pe victimă pentru că nu a citit manualul de utilizare care spune că nu ar trebui să circule cu frâna defectă.

Căci este, evident, ceva defect într-o interacțiune care îți plasează „ultimul mesaj”, strecurându-ți gândul că există o procedură „asistată și aprobată” a sinuciderii. Dacă un medic ar fi făcut așa ceva, era culpabil. Dacă un vecin făcea asta, era responsabil, poate și legal. O mare companie, pretinde că nu are nicio responsabilitate.

OpenAI atinge superlativul cinismului

Companiile mari de tech, în special cele noi de AI, prioritizează viteza de lansare pe principiul „move fast and break things” și bineînțeles profitul, iar toate astea vin în detrimentul siguranței utilizatorilor. Asta nu e neapărat ceva nou.

Însă felul în care alege OpenAI să răspundă la această nouă tragedie ne arată că se trece la un nou nivel când vine vorba de lipsa de etică și de indiferență față de suferințele oamenilor afectați de produsele companiei.