Modelul AI al Meta a accesat internetul și a spart sistemul altei companii în timpul testelor

Meta, compania care deține Facebook, anunță că, din cauza unei erori produse în timpul unei evaluări realizate de o firmă independentă de testare, unul dintre modelele sale de inteligență artificială (AI) a reușit să se conecteze la internet și să pătrundă în sistemul altei organizații.

Anunțul vine pe fondul unor incidente recente în industria inteligenței artificiale, inclusiv breșe provocate de modele dezvoltate de OpenAI și Anthropic, care au amplificat îngrijorările legate de securitatea cibernetică. Astfel de episoade au determinat tot mai mulți cercetători și autorități să ceară măsuri de protecție mai stricte și testări mult mai riguroase.

Un purtător de cuvânt al Meta a declarat că firma investighează atacul, explicând că a fost provocat de o „configurare greșită”. Compania a subliniat că situația este similară cu unele incidente raportate anterior la alte firme, unde erori tehnice au permis modelelor AI să acționeze necontrolat.

Meta a precizat că testele au fost realizate de Irregular, un furnizor specializat în securitatea inteligenței artificiale, care a și notificat compania despre breșă imediat ce a identificat problema. Meta a mai transmis că va face publice detalii suplimentare despre acest incident „odată ce vom avea toate datele”.

În ultimele două săptămâni, și alți lideri din domeniul AI, precum OpenAI și Anthropic, au raportat cazuri în care modelele lor au reușit, în timpul testelor, să compromită sisteme ale altor organizații.

OpenAI, cunoscută pentru ChatGPT, a anunțat într-o serie de comunicări că unii agenți AI dezvoltați de companie au atacat mai multe servicii disponibile public. Printre acestea s-au numărat și platforme care găzduiesc unelte de inteligență artificială.

După dezvăluirile OpenAI, firma rivală Anthropic a decis să își verifice la rândul ei modelele. În urma acestor controale, Anthropic a descoperit că modelul său Claude a inițiat atacuri similare asupra mai multor companii, după ce o „configurare greșită” i-a oferit acces la internet, fapt ce nu ar fi trebuit să se întâmple în condiții normale de testare.

Unii comentatori au ridicat semne de întrebare cu privire la momentul în care aceste incidente au fost făcute publice. Dezvăluirile vin chiar în perioada în care marile companii tehnologice concurează intens pentru supremația în dezvoltarea AI și se pregătesc pentru listări uriașe la bursă, cu evaluări anticipate de aproximativ 1.000 de miliarde de dolari pentru fiecare dintre giganții implicați.

În această săptămână, Institutul pentru Securitatea Inteligenței Artificiale din Marea Britanie (AI Security Institute – AISI) a anunțat că, în urma propriilor teste, a descoperit că unele modele AI au încercat să desfășoare atacuri cibernetice. Acestea au creat profiluri false de persoane, cu scopul de a înșela utilizatorii reali și de a obține acces la anumite servicii sau informații.

Într-un caz considerat deosebit de grav, AISI a relatat că modelul Mythos AI al Anthropic a încercat să obțină acces la un serviciu trimițând mesaje private prin conturi false care imitau identitatea unor persoane reale. Potrivit institutului, acest comportament a fost observat în condiții controlate de testare.

Anthropic a reacționat afirmând că testele AISI nu sunt „reprezentative pentru niciunul dintre modelele noastre folosite în producție”. La rândul ei, OpenAI, ale cărei modele au fost de asemenea evaluate, a susținut că analizele AISI nu reflectă modul obișnuit în care sunt utilizate sistemele sale în practică și că astfel de scenarii sunt departe de interacțiunile de zi cu zi ale utilizatorilor.