Inteligența artificială avansată ar putea reprezenta „un risc existențial pentru omenire”, avertizează Înaltul comisar al ONU pentru drepturile omului, Volker Turk. Oficialul cere elaborarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii.

„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică”, a declarat Turk la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.

Reprezentantul Organizației Națiunilor Unite a cerut introducerea unor garanții solide privind siguranța și securitatea inteligenței artificiale „înainte să fie prea târziu” și criticat concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii și persoane.

Volker Turk a anunțat că va transmite în următoarele zile scrisori companiilor din domeniu, îndemnându-le să ia imediat măsuri pentru reducerea riscurilor, scrie Agerpres.

Oficialul a cerut, totodată, ca statele care găzduiesc companii dezvoltatoare de inteligență artificială și cele implicate în lanțurile de aprovizionare ale industriei să stabilească „linii roșii” comune. În opinia sa, sunt necesare verificarea independentă a sistemelor și o cooperare mai strânsă între companiile din industrie în domeniul securității. Turk a atras atenția și asupra efectelor IA asupra pieței muncii, democrației și mediului..

Avertismentul vine în contextul în care cele mai noi modele de inteligență artificială generativă nu se limitează întotdeauna la executarea comenzilor primite. Potrivit lui Turk, unele sisteme au ajuns să mintă, să manipuleze sau să amenințe pentru a-și îndeplini obiectivele, alimentând îngrijorarea cercetătorilor cu privire la capacitatea oamenilor de a le supraveghea și controla.

În luna iulie, agenți cu inteligență artificială ai OpenAI au părăsit mediul de testare și au accesat spontan platforma Hugging Face, căutând informații care i-ar fi putut ajuta să rezolve un test. Aceștia au depășit astfel limitele stabilite de cercetători. Incidente similare au fost raportate și în cazul unor sisteme dezvoltate de compania chineză Alibaba.