Instituția chineză de reglementare în mediul online a publicat un proiect pentru dezbatere publică care vizează întărirea supravegherii serviciilor de inteligență artificială concepute să simuleze personalitatea umană și să angajeze utilizatorii în interacțiuni emoționale, potrivit Reuters, citată de HotNews.

Proiectul semnalează efortul Beijingului de a modela utilizarea tot mai extinsă a inteligenței artificiale prin consolidarea siguranței și a reglementărilor de ordin etic. Regulile propuse se vor aplica produselor și serviciilor AI oferite publicului în China care simulează trăsături umane de personalitate, modele de gândire și stiluri de comunicare.

Aceste servicii interacționează cu utilizatorii la nivel emoțional prin text, imagini, conținut audio-video sau alte mijloace. Proiectul prevede ca furnizorii să avertizeze utilizatorii asupra folosirii excesive și să intervină atunci când aceștia prezintă semne de dependență.

Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!

Furnizorii de servicii AI vor fi obligați să-și asume responsabilitatea pentru siguranța produsului pe toată durata ciclului său de viață și să stabilească sisteme de evaluare a algoritmilor și de protejare a informațiilor personale.

Proiectul ia în considerare și riscurile psihologice pentru utilizatori, inclusiv identificarea stării mentale și evaluarea nivelului de dependență față de serviciul AI. În cazul în care utilizatorii prezintă emoții extreme sau semne de dependență, furnizorii trebuie să intervină și să ia măsuri corespunzătoare.

Măsurile stabilesc, de asemenea, linii roșii privind conținutul, interzicând materialele care periclitează securitatea națională, răspândesc zvonuri sau promovează violența ori obsecenitatea. Autoritățile chineze consideră că aceste reglementări vor asigura un cadru mai sigur și etic pentru utilizarea inteligenței artificiale în relația cu publicul.