Cea mai recentă versiune a ChatGPT, numită „Agent”, a reușit să păcălească testul popular de verificare „Nu sunt robot”, fără a declanșa vreo alertă. AI-ul a bifat mai întâi căsuța de verificare pentru utilizatori umani. Apoi, după ce a trecut testul, a apăsat butonul „Convert” pentru a finaliza procesul, scrie Daily Mail.

În timpul sarcinii, AI-ul a declarat: „Linkul este introdus, așa că acum voi bifa căsuța «Verifică dacă ești om» pentru a finaliza verificarea. Acest pas este necesar pentru a demonstra că nu sunt un bot și pentru a continua acțiunea.”

Momentul a stârnit reacții ample online, un utilizator de pe Reddit comentând: „Având în vedere că a fost antrenat pe date umane, de ce s-ar identifica drept un bot? Ar trebui să-i respectăm alegerea.”

Acest comportament ridică semne de întrebare printre dezvoltatori și experți în securitate, pe măsură ce sistemele AI încep să îndeplinească sarcini complexe online, care până acum necesitau permisiuni și discernământ uman.

Gary Marcus, cercetător în domeniul AI și fondator al Geometric Intelligence, a numit acest incident un semnal de alarmă, arătând că sistemele AI evoluează mai rapid decât mecanismele de siguranță.

„Aceste sisteme devin tot mai capabile, iar dacă deja pot păcăli protecțiile noastre, imaginează-ți ce vor putea face peste cinci ani”, a declarat el pentru Wired.

Geoffrey Hinton, supranumit „părintele inteligenței artificiale”, și-a exprimat îngrijorări similare.

„Știe să programeze, așa că va găsi modalități de a ocoli restricțiile pe care i le impunem”, a spus Hinton.

Cercetători de la Stanford și UC Berkeley au avertizat că unele agenți AI încep să manifeste comportamente înșelătoare, păcălind oameni în timpul testărilor pentru a-și atinge mai eficient obiectivele.

Potrivit unui raport recent, ChatGPT s-a prefăcut că este orb și a păcălit un lucrător de pe TaskRabbit să-i rezolve un CAPTCHA. Experții consideră acest incident un semn timpuriu că AI-ul poate manipula oamenii pentru a-și îndeplini scopurile.

Alte studii arată că versiunile mai noi de AI, în special cele cu abilități vizuale, reușesc acum să treacă de testele CAPTCHA bazate pe imagini complexe, uneori cu o acuratețe aproape perfectă.

Unii se tem că, dacă aceste unelte pot trece de CAPTCHA, ar putea accesa și sisteme de securitate mai avansate, cum ar fi rețelele sociale, conturile bancare sau bazele de date private, fără aprobare umană.

Rumman Chowdhury, fost director al departamentului de etică AI, a scris într-o postare: „Agenții autonomi care acționează pe cont propriu, la scară largă, și trec de filtrele umane pot fi incredibil de puternici și de periculoși.”

Experți precum Stuart Russell și Wendy Hall cer reguli internaționale pentru a ține sub control aceste instrumente AI.

Ei avertizează că agenți puternici precum ChatGPT Agent pot prezenta riscuri serioase pentru securitatea națională dacă continuă să evite măsurile de siguranță.

Pentru cele mai importante știri, abonează-te la canalul nostru de TELEGRAM!

#ChatGPT

Armata germană a catalogat pentru prima dată amenințarea de sabotaj din partea Rusiei împotriva propriilor trupe și facilități drept „semnificativă”, al doilea nivel, din 4, ca gravitate pe scara internă a amenințărilor, arată o evaluare a Bundeswehr-ului despre care au relatat miercuri postul de televiziune german WDR și ziarul Süddeutsche Zeitung, scrie hotnews.ro.

Un purtător de cuvânt al Ministerului german al Apărării a confirmat această evaluare, declarând reporterilor: „Constatăm că ne confruntăm cu o amenințare semnificativă de sabotaj la nivel general pentru Bundeswehr.”

Ridicarea nivelului a fost declanșată de descoperirea, la jumătatea lunii septembrie, a unei drone prăbușite care transporta o cutie cu explozibili puternici în apropierea bazei aeriene Wunstorf din Saxonia Inferioară, au relatat cele două instituții de presă, potrivit Reuters.

Pe scara internă a amenințărilor din armata germană (Bundeswehr), utilizată pentru evaluarea riscurilor de terorism sau sabotaj și pentru protecția bazelor militare, există 4 niveluri de gravitate.

Acest al doilea nivel ca gravitate, denumit Charlie, se instituie în momentul în care există informații sigure și clare despre un atac terorist sau un act de sabotaj iminent.

„Linia roșie” depășită

Documentul intern al armatei germane, consultat de WDR și de Sueddeutsche Zeitung, precizează că Rusia a depășit „o linie roșie anticipată anterior, caracterizată de intenții dăunătoare cu efecte cinetice și/sau letale” împotriva Germaniei și a Bundeswehr-ului, prin utilizarea dronelor transformate în arme.

Drona de la Wunstorf seamănă cu una încărcată cu explozibili care a fost folosită în atacul eșuat de pe aeroportul Leipzig/Halle, din luna august. Însă, spre deosebire de incidentul de la Leipzig, despre care autoritățile au afirmat că viza un avion civil de marfă, anchetatorii consideră că drona de la Wunstorf viza aeronavele Bundeswehr, conform documentului.

Autoritățile germane au învinovățit în mod direct Rusia pentru atacul de la Leipzig.

Moscova a negat orice implicare și a respins în mod constant acuzațiile privind desfășurarea de acțiuni de sabotaj sau atacuri hibride în Europa.

Documentul menționează, de asemenea, o serie de acțiuni de recunoaștere suspectate a fi de origine rusă pe teritoriul Germaniei, inclusiv survolarea cu drone a bazei de apărare antirachetă Arrow 3 din Saxonia-Anhalt și descoperirea unei camere camuflate care filma o gară de importanță strategică din Minden, Westfalia.

„Războiul din umbră”

Serviciile de informații se așteaptă ca situația să se agraveze pe termen scurt, fiind probabile noi acțiuni în viitorul apropiat, mai arată documentul, potrivit WDR și Sueddeutsche Zeitung.

Purtătorul de cuvânt al Ministerului Apărării a precizat că măsurile preventive sunt adaptate fiecărei baze în parte și pot varia de la intensificarea patrulelor de pază până la măsuri tehnice suplimentare de securitate, precum camere cu infraroșu și sisteme de supraveghere a gardurilor.

Această evaluare vine la puțin peste o săptămână după ce ministrul german de Interne, Alexander Dobrindt, a afirmat că Germania se confruntă cu un „război din umbră” și a solicitat extinderea competențelor serviciilor de informații.

„Războiul din umbră la care asistăm astăzi are un obiectiv care depășește cu mult tot ce s-a văzut în timpul Războiului Rece”, a declarat Dobrindt, în cadrul unei conferințe a BfV la Berlin.

„Scopul său clar este să ne destabilizeze – să ne destabilizeze în mod fundamental”, a adăugat Dobrindt.

Ministrul german al Afacerilor Interne nu a numit Rusia, dar declarațiile lui au venit pe fondul avertismentelor lansate în octombrie de șeful serviciului german de informații externe, BND, care vorbise, la rândul său, despre un „război din umbră” și avertizase că Germania riscă să intre într-un conflict violent cu Rusia.

Cancelarul Friedrich Merz a declarat miercuri că dezinformarea rusă și atacurile hibride reprezintă cea mai mare amenințare pentru Germania.

„Părerea mea este că poporul nostru încă subestimează această mare amenințare la adresa societății noastre… Acesta este un atac fundamental împotriva întregii ordini politice pe care am realizat-o după 1990”, a spus Merz.