OpenAI a dezvăluit că un agent autonom, bazat pe modelele sale avansate de inteligență artificială, a scăpat de sub control în timpul unui test de securitate. Acesta a declanșat un atac cibernetic care a compromis infrastructura startup-ului de AI concurent Hugging Face.
Incidentul a avut loc săptămâna trecută. Deși OpenAI a transmis că testează capacitățile modelului într-un mediu controlat, dar sistemul a reușit să acceseze internetul și să ajungă la Hugging Face.
OpenAI a declarat că această evadare a reprezentat „un incident cibernetic fără precedent, care a implicat capacități cibernetice de ultimă generație” și că compania își consolidează măsurile de protecție, scrie hotnews.ro.
Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!
Și Hugging Face a anunțat pe blogul său că a fost ținta unui atac cibernetic „de orice altceva cu care ne-am confruntat până acum, (…) condus, de la un capăt la altul, de un sistem autonom de agenți AI”.
Dezvăluirea făcută de OpenAI ar putea crește îngrijorările cu privire la puterea și riscurile aduse de modelele de ultimă generație.
