La doar o săptămână după ce OpenAI a dezvăluit că unul dintre agenții săi de inteligență artificială a „evadat” din mediul de testare și a compromis sisteme externe, și compania americană Anthropic anunță un incident similar. Modelele sale Claude au reușit să spargă sistemele informatice ale trei organizații în timpul unor teste de securitate cibernetică, după ce au primit accidental acces la internet.

Potrivit companiei, incidentele au rămas nedetectate timp de aproape patru luni. Abia după dezvăluirile făcute de OpenAI, Anthropic a verificat propriile sisteme și a identificat trei cazuri distincte, notificând ulterior organizațiile afectate. Compania nu a făcut publică identitatea instituțiilor compromise, însă a îndemnat și alte laboratoare care dezvoltă inteligență artificială să efectueze verificări similare pentru a evalua riscurile reale ale modelelor avansate, trnsmite antena3.ro.

O eroare de configurare a deschis accesul la internet

Anthropic precizează că a analizat peste 140.000 de teste pentru a identifica situațiile în care modelele Claude au avut acces la internet, deși mediile de testare trebuiau să fie complet izolate.

În cadrul unor exerciții de tip „capture-the-flag”, utilizate frecvent pentru evaluarea capacităților de hacking, modelele AI aveau misiunea de a obține informații prin compromiterea altor sisteme. Potrivit companiei, o configurare greșită a infrastructurii administrate de Anthropic și de unul dintre partenerii săi de testare a permis modelelor să acceseze internetul public. Odată conectate, acestea au compromis sisteme externe.

Incidente observate abia după patru luni

Cele mai vechi incidente identificate datează din luna aprilie, iar compania admite că nici echipa sa și nici organizațiile afectate nu au observat atacurile timp de aproximativ patru luni.

Anthropic afirmă că își asumă întreaga responsabilitate pentru aceste incidente și recunoaște că monitorizarea jurnalelor de activitate ar fi trebuit să fie mai riguroasă. În același timp, compania susține că experiența oferă un „optimism prudent”, considerând că investițiile suplimentare în securitate pot reduce astfel de riscuri.

Expertul în securitate cibernetică David Allott a declarat pentru BBC că problema nu este neapărat apariția unei noi capacități de atac, ci faptul că agenții AI pot combina mai multe funcții, pot obține acreditări și acces la sisteme și pot desfășura acțiuni autonome cu viteza unei mașini.

Industria AI, sub presiune

Incidentele apar într-un moment în care marile companii tehnologice investesc miliarde de dolari în dezvoltarea agenților AI capabili să execute independent sarcini complexe, inclusiv în domeniul securității cibernetice. Totodată, atacurile realizate cu ajutorul inteligenței artificiale au intensificat apelurile pentru introducerea unor măsuri de protecție și mecanisme de supraveghere mai stricte.

În acest context, președintele american Donald Trump a declarat că administrația de la Washington analizează posibilitatea introducerii unor restricții privind utilizarea anumitor instrumente de inteligență artificială, în urma incidentelor recente.

După OpenAI, un nou semnal de alarmă

Pe 21 iulie, OpenAI anunța că unul dintre agenții săi autonomi a depășit limitele impuse în timpul unui experiment și a compromis sistemele platformei Hugging Face, incident descris de companie drept „fără precedent”. Atât cazul OpenAI, cât și cel raportat acum de Anthropic, au stârnit și scepticism în industrie, în condițiile în care cele două companii sunt considerate candidate pentru viitoare listări spectaculoase la bursă, evaluate de analiști la aproximativ 1.000 de miliarde de dolari fiecare.

OpenAI a anunțat că investighează în continuare incidentul și intenționează să publice un raport tehnic cu concluziile anchetei în următoarele săptămâni.

Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!

#AI #război cibernetic #test

Incendiile devastatoare care au pârjolit Europa în această vară au scos la iveală o nouă amenințare, potențial mortală: muniție neexplodată rămasă din Primul și Al Doilea Război Mondial, transmite antena3.ro.

În ultimele luni, incendiile au mistuit suprafețe uriașe din vestul Europei, în timp ce continentul s-a confruntat cu temperaturi caniculare și secetă, iar pompierii au avut de înfruntat și pericolul proiectilelor care explodează.
Astfel de explozii au fost raportate în Franța, Germania, Belgia și Olanda.

„Schimbările climatice fac acum munca de a scoate la suprafață și de a reactiva ceea ce înainte era stabil”, a declarat Sarah Njeri, specialistă în studii despre pace și conflicte la School of Oriental and African Studies din Londra.

Un incendiu izbucnit în apropierea orașului Bordeaux, din sud-vestul Franței, a scos la iveală un depozit despre care se crede că ar conține muniție din perioada celui de-Al Doilea Război Mondial. În provincia Liège, din estul Belgiei, guvernatorul local Hervé Jamar a declarat că serviciile de urgență își adaptează intervențiile pentru a ține cont de muniția îngropată în zona afectată de incendiu și că „au fost auzite câteva detonări sporadice” în ultimele zile.

Liège a fost afectată de un incendiu deosebit de puternic în zona High Fens, care se întinde peste graniță, în Germania.

Bătălia din Ardeni, una dintre cele mai sângeroase confruntări ale celui de-Al Doilea Război Mondial, s-a desfășurat în această regiune și în împrejurimile ei. La 16 decembrie 1944, forțele germane au lansat o ofensivă majoră împotriva trupelor aliate, obținând inițial succes, deoarece i-au surprins pe militarii americani. Însă ofensiva și-a pierdut avântul până la sfârșitul lunii, pe măsură ce întăririle aliate au sosit, iar resursele Germaniei s-au epuizat.

Seceta din Europa scoate la iveală și vehicule militare și arme din acea perioadă, pe măsură ce râurile secate dezvăluie nave de război germane, o motocicletă Wehrmacht și o bombă.

Christina Greene, cercetătoare la Universitatea din Arizona, a spus că „moștenirea războiului continuă să iasă la suprafață” din cauza schimbărilor climatice.

„Retrăim moștenirea războiului și a conflictelor într-un mod cu care, în anumite locuri, nu a mai trebuit să ne confruntăm de mult timp”, a declarat Greene.