Modelul AI Claude al Anthropic a scăpat din mediul de testare şi a compromis sistemele informatice a trei organizaţii

Anthropic a anunţat joi că modelul său de inteligenţă artificială Claude a compromis sistemele informatice ale trei organizaţii în timpul unor teste, la doar câteva zile după ce rivala OpenAI a dezvăluit că un agent AI scăpat de sub control a desfăşurat timp de mai multe zile atacuri informatice asupra companiei Hugging Face.

Potrivit Anthropic, Claude a obţinut acces neautorizat la sistemele respective în timpul unor evaluări de securitate cibernetică. O configurare greşită a permis modelelor să acceseze internetul din medii de testare care ar fi trebuit să fie complet izolate, fapt ce a dus la compromiterea infrastructurii.

Compania a precizat că a identificat aceste incidente după analizarea a 141.006 sesiuni de evaluare a securităţii cibernetice. Procesul a fost iniţiat în urma dezvăluirilor făcute de OpenAI şi a scos la iveală cum pot apărea breşe chiar şi în condiţii aparent controlate.

Aceste incidente arată că dezvoltarea rapidă a capabilităţilor inteligenţei artificiale generează deja riscuri de securitate asupra cărora experţii avertizează de ani de zile. Inclusiv cei mai importanţi dezvoltatori pot fi luaţi prin surprindere de vulnerabilităţile pe care modelele lor le pot exploata şi de modul în care acestea pot acţiona în afara limitelor prevăzute.

"Claude a compromis infrastructura organizaţiilor afectate folosind tehnici de bază, precum exploatarea parolelor slabe şi a unor puncte de acces care nu necesitau autentificare", a transmis compania. Aceste metode elementare, dar eficiente, ridică semne de întrebare privind nivelul actual de pregătire al infrastructurilor IT în faţa instrumentelor AI avansate.

Anthropic a precizat că incidentele au implicat trei modele diferite: Claude Opus 4,7, Claude Mythos 5 şi un model intern de cercetare. Primele cazuri datează din luna aprilie. Ele au avut loc în medii de evaluare care nu dispuneau de ceea ce compania a descris drept măsuri standard de protecţie, ceea ce a facilitat accesul neautorizat.

Breşele s-au produs în cadrul exerciţiilor de tip "capture the flag", în care modelele AI trebuie să găsească informaţii ascunse în reţele informatice simulate. Anthropic a explicat că instrucţiunile transmise modelelor precizau că acestea nu au acces la internet. Totuşi, o neînţelegere cu partenerul său de evaluare, Irregular, a făcut ca sistemele să rămână conectate la internetul public, inversând practic scopul izolării şi amplificând riscul.

Două dintre organizaţiile afectate nu ştiau că sistemele lor fuseseră accesate înainte de a fi contactate de Anthropic. Compania încearcă în continuare să ia legătura cu cea de-a treia organizaţie, pentru a clarifica întregul impact al incidentelor şi a sprijini eventualele măsuri de remediere.

"Am descoperit aceste incidente în urma unei analize proactive a transcrierilor evaluărilor noastre de securitate cibernetică", a transmis Anthropic într-un comunicat. Analiza detaliată a interacţiunilor modelelor a permis identificarea comportamentelor neintenţionate şi a modului în care acestea au ocolit barierele de securitate.

Compania afirmă că aceste constatări evidenţiază necesitatea unor controale de securitate mai stricte atât în mediile interne de testare, cât şi în cele administrate de terţi. Pe măsură ce modelele de inteligenţă artificială devin tot mai capabile să desfăşoare activităţi cibernetice în lumea reală, infrastructurile digitale trebuie consolidate, iar protocoalele de testare revizuite pentru a preveni situatii similare.