Curs valutar
  • EUR
    20.1538
    -0.0635%
  • USD
    18.3383
    0.1134%
  • RUB
    0.2221
    0.2701%
  • RON
    3.7684
    -0.0398%
  • UAH
    0.4046
    0.3955%

Toate știrile

18 noiembrie 2026

Oamenii de știință dezvoltă o „meta-AI” pentru a ține sub control agenții inteligenți

04 Iun. 2025, 06:56
 // Categoria: În Lume // Autor:  Redacția Realitatea
04 Iun. 2025, 06:56 // În Lume //  Redacția Realitatea

Yoshua Bengio, un profesor din Montreal, considerat unul dintre părinții inteligenței artificiale, a prezentat marți noua sa organizație dedicată unei AI responsabile, care dorește să construiască software-uri capabile să prevină derapajele agenților AI.

De mai mulți ani, acest profesor franco-canadian, recompensat în 2018 cu premiul Turing, supranumit „Nobelul pentru informatică”, avertizează în legătură cu riscurile asociate cu dezvoltarea AI, indiferent dacă este vorba despre utilizarea inteligenței artificiale cu rea intenție sau despre derapajele în sine ale software-urilor.

„Sistemele cele mai avansate arată deja semnele unui instinct de conservare și comportamente înșelătoare”, a explicat Yoshua Bengio într-un comunicat publicat marți. „Și acest lucru va continua să se accelereze pe măsură ce capacitățile lor și autonomia lor vor crește”, a adăugat el.

Noua sa organizație fără scop lucrativ, denumită LawZero, se dorește „un răspuns la aceste provocări”.

Mai multe exemple recente au confirmat faptul că AI a depășit recent anumite praguri de sofisticare, inclusiv într-un studiu realizat de start-upul Anthropic.

Într-un scenariu test fictiv, noua interfață AI generativă dezvoltată de Anthropic, Claude 4, a fost avertizată de înlocuirea sa iminentă de către un inginer în informatică. Încolțită, acea inteligență artificială a încercat din proprie inițiativă să îl șantajeze pe inginer pentru a îl descuraja să renunțe la ea.

LawZero și-a fixat misiunea de „a propune un mod de supraveghere a agenților AI”, noua generație de modele AI generative care sunt capabile să efectueze o varietate de sarcini în manieră autonomă, de la căutări pe internet și până la contactarea telefonică a unui client sau scrierea unui program în linii de cod.

„Unul dintre primele obiective este de a dezvolta o formă de AI care să poată fi utilizată ca o măsură de protecție, pentru a ne asigura că inteligența artificială se comportă corect”, a declarat Yoshua Bengio într-un videoclip publicat pe site-ul companiei LawZero.

LawZero dorește, de asemenea, să lucreze la dezvoltarea unei AI cu autonomie limitată pentru a fi destinată cercetării științifice.

Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!

Realitatea Live

17 Nov. 2026, 22:57
 // Categoria: Slider // Autor:  Ana Panaguța
17 Nov. 2026, 22:57 // Slider //  Ana Panaguța

Mai multe instituții de presă ruse au relatat marți, 17 noiembrie, că o aeronavă, despre care se crede că ar fi un avion militar de transport Antonov An-12, s-a prăbușit în regiunea rusă Kemerovo, din Siberia, relatează știrileprotv.ro.

Conform acestor relatări, 19 membri ai echipajului și-au pierdut viața. Nu există încă nicio confirmare oficială privind bilanțul victimelor.

Guvernatorul regiunii, Ilia Serediuk, a declarat că, potrivit primelor informații, o aeronavă care survola zona s-a prăbușit în apropierea localității Iagunovo.

În înregistrările video, guvernatorul este surprins la fața locului, având în fundal vehicule de intervenție și lumini albastre intermitente. Nu au fost oferite detalii suplimentare.

De când Rusia a lansat invazia la scară largă asupra Ucrainei, în 2022, pe teritoriul rus au avut loc acte repetate de sabotaj și atacuri care au vizat personalul militar și susținătorii războiului.

Anchetatorii ruși au atribuit frecvent astfel de incidente serviciilor de informații ucrainene. Cu toate acestea, aeronave militare rusești au fost implicate și într-o serie de prăbușiri în timpul exercițiilor de antrenament.

Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!