Anthropic susține că a blocat încercări de utilizare a inteligenței artificiale pentru dezvoltarea armelor biologice

Anthropic afirmă că a identificat și a întrerupt încercări de utilizare a modelului său de inteligență artificială pentru „activități rău intenționate”, care ar fi putut sprijini dezvoltarea unor arme biologice.

Constatările, prezentate în cel mai recent raport de informații privind amenințările al companiei, reprezintă cea mai nouă avertizare dintr-o serie tot mai mare lansată de cercetători în domeniul inteligenței artificiale și de persoane din industrie cu privire la potențialele riscuri ale acestei tehnologii pentru omenire.

Avertismentele au dus la solicitări pentru adoptarea unor măsuri concrete. Senatorul american Bernie Sanders a cerut o pauză în dezvoltarea inteligenței artificiale avansate și interzicerea superinteligenței artificiale.

Președintele Donald Trump a respins până acum astfel de temeri. Joi, el a declarat că este îngrijorat „că, dacă nu câștigăm cursa inteligenței artificiale, vom ajunge într-o poziție foarte proastă”.

Compania și-a publicat cel mai recent raport privind amenințările joi.

Astfel de rapoarte au devenit o prezență obișnuită în industria inteligenței artificiale, în condițiile în care companiile încearcă să arate cum identifică și întrerup tentativele de folosire abuzivă a modelelor lor.

Printre aceste companii se numără și Google, care a relatat marți că o persoană a încercat să utilizeze instrumentul său de inteligență artificială, Gemini, pentru a obține „un ghid tehnic complet, pas cu pas, pentru sintetizarea unor agenți biologici transformați în arme”.

Potrivit raportului Anthropic, modelul său de inteligență artificială, Claude, a fost folosit și de actori asociați unei campanii de spionaj cibernetic cu sediul în Rusia, precum și de o instituție iraniană de propagandă.

Cazurile îngrijorătoare detectate în ultimele opt luni au variat de la aplicații false de întâlniri și escrocherii prin rețele Wi-Fi din hoteluri până la sisteme de supraveghere concepute pentru identificarea disidenților.

Anthropic a acuzat, de asemenea, companii chineze de inteligență artificială că au încercat să reproducă funcțiile modelului Claude.

Raportul, care este amplu, prezintă cazuri în care tehnologia companiei ar fi fost folosită în mod abuziv de grupări despre care se presupune că sunt susținute de state, infractori, furnizori de programe de spionaj, instituții de propagandă de stat și persoane motivate politic.

Anthropic a precizat că utilizarea rău intenționată a modelelor Claude Haiku, Sonnet și Opus a fost întreruptă în perioada decembrie 2025 – august 2026.

Niciunul dintre cazurile de utilizare abuzivă nu a implicat modelele Claude Fable sau modelele puternice din clasa Mythos, cu excepția unui singur caz de distilare. Distilarea este procesul prin care sunt antrenate modele de inteligență artificială mai mici, folosind modele mai mari și mai costisitoare.

Pe lângă detectarea utilizării modelelor sale în operațiuni cibernetice și de influență, în activități de supraveghere, escrocherii și fraude, precum și în dezvoltarea de arme, Anthropic a declarat că a blocat cercetători care foloseau inteligența artificială în moduri ce ar fi putut sprijini dezvoltarea armelor biologice.

Raportul a evidențiat „cinci studii de caz privind actori care au folosit modelele noastre în moduri ce ar fi putut sprijini dezvoltarea armelor biologice”.

Utilizarea abuzivă în domeniul biologic, a precizat compania, reprezintă „unul dintre cele mai grave riscuri ale modelelor de inteligență artificială de frontieră”. În lipsa unor măsuri de protecție adecvate, astfel de capacități „ar putea avea consecințe catastrofale”, a avertizat Anthropic.

„Aceleași informații care pot fi utilizate pentru dezvoltarea unei arme biologice ar putea fi folosite și pentru dezvoltarea, de exemplu, a unui vaccin sau a unui tratament pentru o boală”, a declarat Anthropic.

Jacob Klein, responsabilul pentru informații privind amenințările în cadrul Anthropic, a descris situația drept „incredibil de nuanțată”.

„Nu vezi pe cineva care, într-un mod desprins dintr-o carte de benzi desenate, să spună: «Hei, vreau să construiesc o armă biologică pentru a-i ucide pe toți»”, a afirmat el.

Raportul menționează și șase cazuri în care Claude a fost folosit „pentru dezvoltarea unor programe destinate armelor convenționale, inclusiv arme de foc, rachete, drone înarmate, bombe și alte muniții, precum și sistemele de țintire și control care le operează”.

Documentul indică faptul că infractorii cibernetici și hackerii sprijiniți de state au utilizat tot mai mult tehnologia companiei pentru a-și susține operațiunile.

Printre entitățile menționate în raport se află gruparea de hackeri ShinyHunters, precum și laboratoare cu sediul în China.

Raportul mai arată că o grupare de hackeri ale cărei activități corespund profilului grupării ruse Midnight Blizzard ar fi folosit inteligența artificială pentru a construi un sistem care detecta automat momentul în care programele sale malware erau semnalate de mecanismele de securitate. Sistemul rescria apoi codul până când acesta reușea să evite detectarea.

Compania cu sediul în California a declarat că a integrat constatările raportului în propriile procese, „pentru a preveni, detecta și întrerupe mai eficient aceste activități pe viitor”.

Anthropic a precizat că a transmis informații autorităților și partenerilor din industrie, atunci când acest lucru a fost considerat necesar.

Raportul, primul publicat de companie în acest an, apare după ce un cercetător important în domeniul siguranței din cadrul Anthropic a avertizat că inteligența artificială avansează atât de rapid, încât el consideră că există o probabilitate de peste 10% ca aceasta „să omoare toți oamenii” în următorul deceniu.

Într-un articol publicat pe 6 septembrie, cercetătorul-șef al OpenAI, Jakub Pachocki, a cerut industriei să introducă „încetiniri voluntare” până la stabilirea unor măsuri de protecție.

„Sunt îngrijorat că nimeni nu este pregătit pentru consecințele creșterii continue și rapide a inteligenței mașinilor”, a declarat Pachocki. El a adăugat că OpenAI, compania care dezvoltă ChatGPT, își va continua activitatea pentru construirea unor mecanisme de protecție, deși sunt necesare intervenții mai ample.

Avertismentul a dus la publicarea unei scrisori deschise adresate premierului britanic Andy Burnham. Semnatarii au cerut un nou tratat multinațional pentru dezvoltarea sigură a inteligenței artificiale și au solicitat guvernelor să colaboreze pentru a stabili cum ar trebui să arate un acord bazat pe dezvoltarea superinteligenței.

În Statele Unite, parlamentarul democrat Bernie Sanders a inițiat un proiect de lege pentru interzicerea superinteligenței artificiale și suspendarea temporară a dezvoltării inteligenței artificiale avansate.

„Când oamenii de știință vă spun că există o șansă, o șansă ca aceasta să aibă un impact cataclismic asupra omenirii, trebuie să fii un idiot ca să nu spui: încetiniți ritmul”, a declarat el joi.