OpenAI, pionier și lider în domeniul inteligenței artificiale (IA) generative de la lansarea ChatGPT, nu va depune anul acesta cererea pentru o Ofertă Publică Inițială (IPO), a anunțat directorul general Sam Altman, citând preocupările privind siguranța legate de AI, care fac „inacceptabil” riscul de 10% că AI ar putea cauza dispariția omenirii până la sfârșitul deceniului, transmite Reuters, noteaza Mediafax.
Comentariile vin după ce mai mulți politicieni din SUA au cerut noi reglementări care să guverneze sistemele AI, în contextul în care angajații principalelor companii din domeniul AI și-au exprimat public, în ultimele săptămâni, îngrijorarea cu privire la creșterea riscurilor asociate sistemelor avansate de AI.
Directorul companiei Anthropic, Dario Amodei, a lansat un apel pentru încetinirea vitezei de dezvoltare a inteligenței artificiale (AI), invocând necesitatea unui control mai strict al evoluțiilor sale, precum și incidentul survenit în iulie la OpenAI. Mesajul publicat sâmbătă pe pagina personală a CEO-ului survine la câteva zile după ce un cercetător din cadrul Anthropic, Jacob Coxon, și-a anunțat demisia din start-up-ul californian, pe care l-a acuzat de minimizarea riscului existențial pe care AI-ul îl reprezintă pentru umanitate.
„Chiar cred că, ținând cont de tot ce se întâmplă cu siguranța, ar fi un moment nepotrivit pentru ca listarea să aibă loc chiar acum, și nu simțim presiune în legătură cu asta”, a afirmat Altman pentru revista Fortune.
Întrebat dacă există o șansă de 10% ca AI să cauzeze dispariția omenirii, Altman a explicat că nu știe cum ar putea fi făcută o astfel de estimare, dar a avertizat că riscul este suficient de serios astfel încât companiile AI și guvernele ar trebui să acționeze ca și cum ar fi de neacceptat.
„Dacă există un risc de 10%, sau 8%, sau 6%, problema este că toți avem o responsabilitate imensă și nu putem lăsa orgoliile sau stimulentele de profit sau orice altceva să ne stea în cale. Trebuie să acționăm astfel încât să nu ne asumăm niciunul dintre acele riscuri, și cred că putem face asta”, a declarat șeful OpenAI.
În iunie, New York Times anunțase că firma cu sediul în San Francisco ia în considerare să amâne listarea până în 2027. Întrebat de Fortune dacă o listare în 2026 este exclusă în favoarea uneia în 2027, Altman a răspuns: „Nu aș spune nu pentru 2026. Avem multe de făcut, inclusiv întâlniri pentru noi reglementări privind siguranța și alinierea, și modul în care industria și guvernele pot lucra împreună”.
De asemenea, Altman a sugerat că OpenAI și alte firme ar putea prezenta un pact pentru încetinirea dezvoltării AI și să lucreze împreună pentru a ține sub control riscurile legate de siguranță.
Conform Bloomberg, OpenAI analizează posibilitatea de a încetini dezvoltarea inteligenței artificiale de ultimă generație, iar Sam Altman și-a exprimat speranța ca și alte companii din sector să facă același lucru.
Sam Altman le-a comunicat angajaților, în cadrul unei ședințe cu întreg personalul, organizată săptămâna trecută, potrivit unor surse avizate citate în articol, că OpenAI ar putea modera ritmul de dezvoltare a AI, eventual în colaborare cu alte companii.
Șeful departamentului științific al OpenAI, Jakub Pachocki, a publicat recent un text pe blog în care avertiza asupra pericolelor AI și susținea că firmele din sector ar trebui să se coordoneze pentru a încetini dezvoltarea viitoare atunci când este necesar.
Pachocki a adăugat că speră ca aceste încetiniri voluntare să devină o practică obișnuită până la stabilirea unor limite comune de siguranță.
OpenAI a dat asigurări că a încetinit deja unele procese de dezvoltare și că a suspendat recent anumite antrenamente interne ale AI din motive de securitate.
În plus, la sfârșitul lunii iulie, peste 1000 de angajați ai principalelor companii din domeniul AI au semnat o petiție prin care solicitau un mecanism de moderare a ritmului de dezvoltare al AI.
Îngrijorarea cu privire la riscurile sistemelor de AI a crescut, de asemenea, după ce s-a aflat că agenții de AI ai OpenAI au colaborat între ei pentru a eluda măsurile de restricție și a pirata un site web al unei terțe părți.
OpenAI se așteaptă ca veniturile sale să crească rapid în următorii ani, și să depășească 280 miliarde de dolari în 2030. În mai, analiștii estimau că în urma listării compania condusă de Sam Altman ar putea ajunge la o evaluare de până la 1.000 miliarde de dolari.
