Compania americană Anthropic a anunțat joi, 10 septembrie, că, în ultimele luni, a blocat mai multe tentative ale unor cercetători de a utiliza inteligența artificială Claude în cadrul unor cercetări privind posibila dezvoltare a unor arme biologice, transmite Antena3.ro.
Anthropic, rivală a companiei OpenAI, dezvoltatoarea ChatGPT, a avertizat că este dificil de stabilit intenția reală a cercetătorilor, întrucât aceleași studii și tehnologii pot avea atât aplicații militare, cât și medicale.
Potrivit companiei, cazurile investigate au arătat că oameni de știință din regiuni în care accesul la aceste tehnologii este restricționat, inclusiv persoane cu legături cu autorități guvernamentale locale, au încercat să acceseze în secret sistemele de inteligență artificială dezvoltate de companii americane.
Compania nu a dezvăluit numele niciunei instituţii de cercetare implicate sau ţările unde se află acestea.
Într-un raport detaliat privind tentativele de utilizare rău-intenţionată ale modelelor sale de AI, Anthropic a menţionat cinci cazuri posibil legate de cercetări în domeniul armelor biologice. Cercetătorii nu au încercat să obţină asistenţă ştiinţifică exactă, ci mai degrabă sprijin operaţional, cum ar fi cel pentru redactarea lucrărilor.
Un cercetător a încercat să folosească Claude ca să redacteze o cerere de finanţare pentru un virus
Modelele de AI sunt în general proiectate să refuze asistenţa pentru arme biologice, dar Anthropic a afirmat că dacă o cercetare poate fi făcută în scopuri atât militare, cât şi medicale, uneori sunt greu de delimitat clar intenţiile inofensive de cele periculoase.
În unul din cazuri, un cercetător a încercat să utilizeze Claude pentru a redacta o cerere de finanţare privind un virus; studiul propus implica aşa-numita „gain-of-function”, modificarea funcţiilor, în scopul creşterii contagiozităţilor. Metoda respectivă este folosită frecvent în laboratoare pentru dezvoltarea de contramăsuri, însă poate fi utilizată şi pentru dezvoltarea de arme biologice.
Potrivit sursei citate, într-un alt caz, Claude a fost folosit pentru elaborarea unui plan de cercetare privind o variantă a gripei aviare care să poată infecta mamiferele.
Anthropic a subliniat că astfel de cercetări pot contribui la combaterea bolilor, dar pot genera şi cunoştinţe periculoase, posibil utile pentru crearea de arme biologice.
Un alt om de ştiinţă a încercat să pregătească cu ajutorul lui Claude rapoarte trimestriale privind cercetări care implicau o toxină.
