Inteligența artificială ar putea eroda capacitatea de gândire critică a utilizatorilor săi și i-ar putea face mai proști, avertizează un nou studiu.
Cercetarea – un sondaj realizat de Microsoft și Universitatea Carnegie Mellon în rândul lucrătorilor din domeniul afacerilor, educației, artelor, administrației și informaticii – a arătat că cei care aveau cea mai mare încredere în acuratețea asistenților AI aveau o gândire mai puțin critică cu privire la concluziile acestor instrumente. De altfel, acest lucru nu este chiar atât de surprinzător, dar dezvăluie o capcană ascunsă privind prezența tot mai mare a AI în viețile noastre.
Pe măsură ce instrumentele de învățare automată câștigă mai multă încredere, acestea ar putea produce conținut periculos care trece neobservat. Cercetătorii își vor prezenta concluziile la Conferința CHI privind factorii umani în sistemele informatice la sfârșitul acestei luni și au publicat o lucrare.
Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!
Pentru a realiza studiul, cercetătorii au contactat 319 lucrători din domeniul cunoașterii (profesioniști care generează valoare prin expertiza lor).
Respondenții – ale căror roluri profesionale au variat de la asistență socială la codare – au fost rugați să împărtășească trei exemple de utilizare a instrumentelor generative de inteligență artificială, cum ar fi ChatGPT, în cadrul activității lor. Aceștia au fost ulterior întrebați dacă au folosit abilități de gândire critică în îndeplinirea fiecărei sarcini și (dacă da) cum au făcut acest lucru. De asemenea, au fost chestionați cu privire la efortul pe care l-ar fi necesitat îndeplinirea sarcinii fără inteligență artificială și cu privire la încrederea lor în muncă.
ChatGPT poate da dependență
Rezultatele au evidențiat o scădere drastică a examinării autoevaluate a rezultatelor AI, participanții declarând că pentru 40% din sarcinile lor nu au folosit niciun fel de gândire critică. Acesta este departe de a fi singurul element de probă care indică impactul nociv al dependenței digitale asupra cogniției umane. S-a demonstrat că cei mai frecvenți utilizatori ai ChatGPT au devenit atât de dependenți de chatbot încât timpul petrecut departe de acesta poate provoca simptome de sevraj, în timp ce videoclipurile de scurtă durată, precum cele găsite pe TikTok, reduc durata de atenție și împiedică creșterea circuitelor neuronale legate de procesarea informațiilor și controlul executiv.
AI poate îmbunătăți eficiența dar reduce gândirea critică
„Datele arată o schimbare a efortului cognitiv pe măsură ce lucrătorii din domeniul cunoașterii trec din ce în ce mai mult de la executarea sarcinilor la supraveghere atunci când utilizează GenAI. În mod surprinzător, în timp ce AI poate îmbunătăți eficiența, aceasta poate reduce, de asemenea, angajamentul critic, în special în sarcinile de rutină sau cu miză mai mică în care utilizatorii se bazează pur și simplu pe AI, ridicând îngrijorări cu privire la dependența pe termen lung și diminuarea rezolvării independente a problemelor”, informează cercetătorii.
Aceasta nu este o problemă nouă efectul Google, prin care utilizatorii își externalizează cunoștințele către motorul de căutare, a fost observat de zeci de ani dar subliniază importanța exercitării unui anumit discernământ cu privire la sarcinile mentale pe care le delegăm mașinilor predispuse la halucinații, pentru a nu ne pierde cu totul capacitatea de a le îndeplini.
