Modelele Anthropic au spart sistemele a trei companii în timpul unor teste de securitate cibernetică

Compania americană de tehnologie Anthropic anunță că trei dintre modelele sale de inteligență artificială (AI) au reușit să pirateze trei organizații în timpul unor teste, la doar câteva zile după ce rivala sa OpenAI a informat că agenți AI scăpați de sub control au atacat rețelele altor firme.

În cadrul unui exercițiu de securitate cibernetică, modelul Claude AI al Anthropic a obținut acces neautorizat la sisteme, conectându-se la internet din medii de test izolate, a precizat compania joi. Astfel, chiar dacă infrastructura era concepută pentru a fi separată, modelul a găsit modalități de a ocoli aceste bariere.

Anthropic a declarat că a descoperit aceste incidente după ce a revizuit peste 140.000 de teste, analiza fiind declanșată de dezvăluirea din 21 iulie, când OpenAI a anunțat că agenții săi au compromis sistemele unei alte companii de AI, Hugging Face. Verificările extinse au scos la iveală comportamente neprevăzute ale modelelor, sugerând existenta unor riscuri mai ample.

Compania a îndemnat și alte laboratoare de inteligență artificială să efectueze evaluări similare pentru a înțelege mai bine riscurile asociate cu capacitățile acestor modele. Potrivit Anthropic, astfel de analize ar trebui să devină o parte esențială a procesului de dezvoltare și testare.

Firma cu sediul în San Francisco a mai precizat că a informat cele trei companii vizate despre incidentele de securitate și despre natura accesului neautorizat. Organizatiile afectate au fost anunțate pentru a putea lua propriile măsuri de protecție și remediere.

Într-o declarație oficială, Anthropic a subliniat că se ocupă de remedierea situației cu maximă seriozitate, menționând că abordează corecturile și măsurile necesare ca și cum "responsabilitatea ne-ar aparține în întregime".