Șeful OpenAI, mintea din spatele ChatGPT, a publicat un anunț pentru un loc de muncă plătit cu 555.000 de dolari pe an, în jur de 46.000 de dolari pe lună. Descrierea postului este însă atât de provocatoare și necesită niște abilități de nișă într-un domeniu încă în dezvoltare încât și Superman s-ar gândi de două ori înainte să aplice, scrie antena3.ro.

Titlul postului: „Director de pregătire”. Misiunea: aproape imposibilă.

Șeful „de pregătire” de la OpenAI va fi direct responsabil pentru apărarea împotriva riscurilor, generate de inteligențele artificiale din ce în ce mai puternice, asupra sănătății mintale a oamenilor, securității cibernetice și armelor biologice. Este doar vârful aisbergului. Tot candidatul selectat va trebuie să facă pregătiri și pentru eventualitatea în care AI-urile vor începe să se antreneze singure, în contextul în care unii experți se tem că acestea ar putea „să se întoarcă împotriva noastră”.

Candidatul selectat va fi responsabil pentru evaluarea și atenuarea amenințărilor emergente și „urmărirea și pregătirea pentru capabilități de frontieră care creează riscuri noi de prejudicii grave”.

Unii dintre foștii directori care au ocupat acest post au rezistat doar perioade scurte.

Postul apare pe fondul avertismentelor din industria AI privind riscurile tehnologiei tot mai capabile.

Luni, Mustafa Suleyman, directorul executiv al Microsoft AI, a declarat pentru BBC Radio 4: „Sincer, cred că dacă nu ți-e puțin teamă în acest moment, înseamnă că nu ești atent.”

Demis Hassabis, co-fondatorul Google DeepMind și laureat al Premiului Nobel, a avertizat luna aceasta asupra riscurilor, inclusiv că AI-urile ar putea „deveni imprevizibile într-un mod care dăunează umanității”.

În contextul opoziției Administrației Trump, există puțină reglementare a AI la nivel național sau internațional.

Yoshua Bengio, informatician cunoscut ca unul dintre „nașii AI”, a declarat recent: „Un sandviș este mai reglementat decât AI.” Rezultatul este că firmele de AI își reglementează în mare parte singure activitatea.

„Va fi un job stresant, și vei fi aruncat în apă adâncă aproape imediat”, a declarat Sam Altman, directorul executiv al organizației din San Francisco, lansând căutarea pentru ocuparea „unui rol critic” care să „ajute lumea”.

„Avem o bază solidă pentru măsurarea capacităților în creștere, dar intrăm într-o lume în care avem nevoie de o înțelegere și o evaluare mai nuanțată a modului în care aceste capacități ar putea fi abuzate și cum putem limita aceste efecte negative atât în produsele noastre, cât și în lume, astfel încât să ne putem bucura cu toții de beneficiile extraordinare. Aceste întrebări sunt dificile și există puține precedente”, a scris Altman pe X.

Un utilizator a răspuns ironic: „Sună destul de relaxat, include și concediu?”.

Nu știm. Include, însă, pe lângă salariul generos, acțiuni la OpenAI, de valoare necunoscută. Compania este evaluată, în prezent, la 500 de miliarde de dolari.

Luna trecută, compania rivală Anthropic a raportat primele atacuri cibernetice realizate cu ajutorul AI, în care inteligența artificială a acționat în mare parte autonom sub supravegherea presupusă a actorilor statali chinezi, reușind să acceseze datele interne ale țintelor.

Luna aceasta, OpenAI a declarat că cel mai recent model al său este aproape de trei ori mai bun la hacking decât acum trei luni și a afirmat că „ne așteptăm ca modelele AI viitoare să continue pe această traiectorie”.

OpenAI se mai apără și într-un proces intentat de familia lui Adam Raine, un adolescent de 16 ani din California care și-a luat viața după presupusa încurajare din partea ChatGPT. Compania susține că Raine a folosit tehnologia necorespunzător. Un alt caz, depus luna aceasta, susține că ChatGPT ar fi încurajat iluziile paranoice ale unui bărbat de 56 de ani din Connecticut, Stein-Erik Soelberg, care și-a ucis apoi mama de 83 de ani și s-a sinucis.

Un purtător de cuvânt al OpenAI a declarat că revizuiește documentele în cazul Soelberg, descriind situația ca fiind „incredibil de sfâșietoare” și că îmbunătățește antrenamentul ChatGPT „pentru a recunoaște și a răspunde la semnele de suferință mentală sau emoțională, aplanând conversațiile și ghidând oamenii către sprijin real în lumea fizică”.

Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!

#AI #job

Comisia Europeană (CE) solicită statelor membre ale Uniunii Europene (UE) să suspende timp de un an interdicțiile naţionale privind accesul copiilor la reţelele sociale, justificând faptul că Bruxelles-ul urmăreşte elaborarea unui set de norme la nivelul întregii UE.

Comisia Europeană a mai precizat că vrea să elaboreze măsuri comune împreună cu Parlamentul European și statele UE, urmând ca acestea să fie apoi puse în aplicare.

Uniunea Europeană consideră că adoptarea unor legi separate de către statele membre ar putea duce la fragmentarea reglementărilor, prin stabilirea unor limite de vârste diferite de la o țară la alta.

„Comisia a decis să amâne cu 12 luni orice proiect de lege naţional care se suprapune cu viitoarele norme armonizate”, a declarat joi reporterilor purtătorul de cuvânt al executivului UE, Thomas Regnier.

Austria, prima țară căreia i s-a cerut joi să-şi suspende legislaţia, a criticat solicitarea.

„Este inacceptabil ca Bruxelles-ul să împiedice statele membre să adopte legi naţionale fără a prezenta o soluţie europeană completă proprie”, a declarat secretarul de stat austriac Alexander Pröll pentru Politico.

Vicecancelarul şi ministrul pentru afaceri media Andreas Babler a transmis că Austria va continua să elaboreze propria legislaţie pentru a fi gata până la sfârşitul perioadei de suspendare de 12 luni.

De altfel, Austria solicitase Comisiei încă din iulie să verifice dacă propria sa propunere de lege, care ar interzice accesul copiilor sub 14 ani, este în conformitate cu legislaţia UE.

Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!

În luna septembrie, Comisia Europeană a prezentat „EU Kids Act” drept o soluţie la nivelul UE pentru a proteja minorii online. Comisia a propus interzicerea accesului la reţelele sociale pentru copiii sub 13 ani.

Pentru cei între 13 şi 15 ani sunt propuse conturi supravegheate de părinţi şi cu funcţionalităţi limitate, iar pentru adolescenţii între 15 şi 18 ani sunt avute în vedere măsuri suplimentare de siguranţă.

Dacă se va ajunge la un acord, măsura ar interzice accesul la reţelele sociale pentru minorii sub 13 ani în majoritatea cazurilor şi ar restricţiona sever accesul pentru adolescenţii sub 15 ani.

De asemenea, aceasta stabileşte cerinţe privind siguranţa pentru platforme, inclusiv în cazul jocurilor video şi asistenţilor bazaţi pe inteligenţă artificială.

#CE #copii #retele de socializare #UE