Yoshua Bengio, un profesor din Montreal, considerat unul dintre părinții inteligenței artificiale, a prezentat marți noua sa organizație dedicată unei AI responsabile, care dorește să construiască software-uri capabile să prevină derapajele agenților AI.

De mai mulți ani, acest profesor franco-canadian, recompensat în 2018 cu premiul Turing, supranumit „Nobelul pentru informatică”, avertizează în legătură cu riscurile asociate cu dezvoltarea AI, indiferent dacă este vorba despre utilizarea inteligenței artificiale cu rea intenție sau despre derapajele în sine ale software-urilor.

„Sistemele cele mai avansate arată deja semnele unui instinct de conservare și comportamente înșelătoare”, a explicat Yoshua Bengio într-un comunicat publicat marți. „Și acest lucru va continua să se accelereze pe măsură ce capacitățile lor și autonomia lor vor crește”, a adăugat el.

Noua sa organizație fără scop lucrativ, denumită LawZero, se dorește „un răspuns la aceste provocări”.

Mai multe exemple recente au confirmat faptul că AI a depășit recent anumite praguri de sofisticare, inclusiv într-un studiu realizat de start-upul Anthropic.

Într-un scenariu test fictiv, noua interfață AI generativă dezvoltată de Anthropic, Claude 4, a fost avertizată de înlocuirea sa iminentă de către un inginer în informatică. Încolțită, acea inteligență artificială a încercat din proprie inițiativă să îl șantajeze pe inginer pentru a îl descuraja să renunțe la ea.

LawZero și-a fixat misiunea de „a propune un mod de supraveghere a agenților AI”, noua generație de modele AI generative care sunt capabile să efectueze o varietate de sarcini în manieră autonomă, de la căutări pe internet și până la contactarea telefonică a unui client sau scrierea unui program în linii de cod.

„Unul dintre primele obiective este de a dezvolta o formă de AI care să poată fi utilizată ca o măsură de protecție, pentru a ne asigura că inteligența artificială se comportă corect”, a declarat Yoshua Bengio într-un videoclip publicat pe site-ul companiei LawZero.

LawZero dorește, de asemenea, să lucreze la dezvoltarea unei AI cu autonomie limitată pentru a fi destinată cercetării științifice.

Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!

O femeie a fost agresată fizic, vineri seara, 28 august, într-un parc din apropierea Universității Tehnice a Moldovei (UTM) din capitală, în timp ce hrănea, împreună cu alte două femei, câțiva căței fără stăpân.

Potrivit unei postări de pe Facebook, incidentul ar fi avut loc în jurul orei 21:30, lângă un imobil părăsit. Un bărbat s-ar fi apropiat de cele trei femei și le-ar fi reproșat agresiv că hrănesc animalele, amenințându-le apoi cu o geantă, ca și cum ar fi vrut să le lovească.

Un alt bărbat, aflat în apropiere cu un câine, ar fi asistat la scenă fără să intervină, ba chiar ar fi contribuit la tensionarea situației.

Femeia povestește că, atunci când a încercat să-l filmeze pe agresor cu telefonul, acesta a apucat-o de mâini, i-a smuls telefonul din mână și a plecat, continuând să o jignească.

Contactată de Realitatea.md, Poliția Capitalei a confirmat că incidentul este înregistrat și că, în prezent, se întreprind măsuri pentru stabilirea tuturor circumstanțelor cazului.