Linia de asistență pentru tulburări de alimentație elimină chatbot-ul de inteligență artificială, după ce acesta a oferit sfaturi periculoase. Acest lucru vine după ce organizația a concediat personalul uman, în favoarea AI.
Asociația Națională pentru Tulburările Alimentare (NEDA) a fost forțată să-și retragă chatbot-ul Tessa după ce „s-ar putea să fi dat informații care erau dăunătoare și nu au legătură cu programul”, potrivit unei postări oficiale de pe rețelele sociale. Mai simplu spus, chatbot-ul AI a fost menit să ajute oamenii care se confruntă cu dificultăți emoționale, dar, în schimb, a înrăutățit lucrurile, oferind sfaturi privind dieta și îndemnând utilizatorii să se cântărească și să se măsoare.
Inteligența artificială poate fi periculoasă
Mai mulți utilizatori și experți în domeniul tulburărilor de alimentație au experimentat problemele direct, susținând că bot-ul nu a răspuns la solicitări simple precum „Îmi urăsc corpul” și că a subliniat constant importanța dietei și a creșterii activității fizice. Din nou, aceasta este o linie de asistență pentru cei cu o tulburare de alimentație, nu un grup de sprijin pentru pierderea în greutate.
Organizația spune că aceasta este o oprire temporară, până când remediază orice „defecțiuni” și „declanșatoare” care au dus chatbot-ul să furnizeze informații periculoase.
Motivul pentru care NEDA s-a bazat în primul rând pe chatbot este că ar fi concediat angajați umani după ce au încercat să se sindicalizeze, așa cum a raportat inițial Vice. Linia telefonică de lungă durată a fost asigurată atât de angajați plătiți, cât și de voluntari, iar foștii angajați susțin că concedierea în masă a fost o consecință directă a efortului pro-sindical.
„NEDA susține că aceasta a fost o schimbare mult așteptată și că AI poate servi mai bine celor cu tulburări de alimentație. Dar nu vă lăsați păcăliți – nu este vorba cu adevărat despre un chatbot. Este vorba despre distrugerea sindicatelor, pur și simplu”, a scris fostul asociat la linia de asistență Abbie Harper, într-o postare pe blog.
Așadar, linia de asistență va dispărea. Înainte ca această problemă să ajungă în atenția publicului, NEDA făcuse tranziția voluntarilor neplătiți de la conversațiile unu-la-unu cu suferinzii și către instruirea chatbot-ului. Vom vedea dacă se schimbă.
