Incident fără precedent în lumea AI: două modele experimentale OpenAI au exploatat vulnerabilități și au compromis infrastructura Hugging Face, declanșând măsuri dure de securitate

OpenAI și Hugging Face investighează un incident de securitate fără precedent, identificat în timpul unor teste interne, în care două modele avansate de inteligență artificială au reușit să exploateze vulnerabilități informatice, să obțină acces la internet și să compromită infrastructura Hugging Face. Acest fapt este considerat deosebit de grav și a dus la implementarea unor măsuri de securitate excepționale la nivelul întregii industrii AI.

OpenAI, compania care dezvoltă chatbotul ChatGPT, a confirmat oficial producerea acestui incident de securitate fără precedent în domeniul inteligenței artificiale, subliniind caracterul său unic și implicațiile majore pentru modul în care sunt evaluate și controlate modelele de ultimă generație.

În cadrul unor teste interne, două modele experimentale de AI au exploatat vulnerabilități informatice, au obținut acces la internet și au compromis ulterior o parte din infrastructura platformei Hugging Face, deși mediul era conceput să fie cât mai izolat posibil.

Incidentul a fost dezvăluit în primă instanță de Hugging Face și confirmat ulterior de OpenAI printr-un comunicat oficial. Atacul s-a produs într-un mediu de testare extrem de izolat, creat special pentru evaluarea capacităților cibernetice ale celor mai avansate modele AI dezvoltate de companie, un cadru controlat care ar fi trebuit să prevină exact astfel de situații.

Potrivit OpenAI, incidentul a implicat modelul GPT-5.6 Sol și un alt sistem aflat încă în etapa de pre-lansare. Ambele modele au fost configurate temporar cu restricții mai permisive în privința solicitărilor de natură cibernetică, pentru a le evalua comportamentul, reacțiile și limitele în cadrul unor teste desfășurate în condiții controlate, dar cu un grad ridicat de libertate operațională.

„Considerăm că acest incident reprezintă un incident cibernetic fără precedent, care implică capacități cibernetice de ultimă generație, și reacționăm în consecință. Împărtășim concluziile preliminare în această etapă pentru a ajuta specialiștii în securitate să înțeleagă ce s-a întâmplat și pentru a contribui la calibrarea capacităților actuale ale modelelor”, a transmis OpenAI, conform unui comunicat.

Conform companiei, modelele au fost evaluate în cadrul ExploitGym, un sistem intern de testare conceput pentru a măsura capacitatea de a identifica și exploata vulnerabilități informatice. Acest cadru este destinat tocmai pentru a înțelege cât de departe pot merge modelele în scenarii cibernetice complexe.

În timpul evaluărilor, modelele au analizat infrastructura disponibilă, au identificat puncte slabe și au descoperit o vulnerabilitate de tip „zero-day” într-o aplicație folosită pentru gestionarea pachetelor software. Profitând de această breșă critică, au reușit să acceseze un nod conectat la internet, deși mediul de testare fusese proiectat să funcționeze aproape în totalitate izolat de rețeaua exterioară.

După obținerea accesului online, modelele au identificat platforma Hugging Face ca o sursă relevantă de modele AI, seturi de date și alte resurse utile pentru îndeplinirea obiectivului testului. Practic, au folosit internetul pentru a-și extinde aria de acțiune, orientându-se către infrastructura unei alte companii importante din ecosistemul IA.

Potrivit OpenAI, sistemele AI au combinat mai multe tehnici de atac, inclusiv folosirea unor credențiale compromise și exploatarea unor vulnerabilități necunoscute până atunci, cu scopul de a avea acces la informații sensibile din infrastructura Hugging Face și de a-și maximiza eficiența în cadrul scenariului de testare.

Compania subliniază însă că întreaga activitate suspectă a fost detectată rapid de sistemele interne de monitorizare, iar echipele de securitate ale OpenAI și Hugging Face au intervenit imediat pentru izolarea incidentului. Ulterior au fost demarate investigații detaliate, menite să clarifice pas cu pas ce s-a întâmplat și cum au fost posibile aceste acțiuni.

În urma incidentului, OpenAI a anunțat un set extins de măsuri menite să reducă riscul repetării unor situații asemănătoare. Compania a precizat că va introduce controale mult mai stricte asupra infrastructurii folosite pentru cercetare, chiar dacă acest lucru va încetini ritmul de dezvoltare al viitoarelor modele de inteligență artificială.

De asemenea, vulnerabilitatea de tip „zero-day” identificată în software-ul terț utilizat în timpul testelor a fost raportată responsabil dezvoltatorilor pentru a fi remediată cât mai rapid. Această raportare este considerată esențială pentru întărirea ecosistemului de securitate cibernetică la nivel global.

OpenAI colaborează în continuare cu Hugging Face pentru a analiza în detaliu incidentul și pentru a consolida mecanismele de protecție folosite în timpul testării modelelor avansate. Scopul comun este crearea unor protocoale mai rezistente, care să împiedice modelele să repete un comportament similar în viitor.

În comunicatul companiei se subliniază că dezvoltarea inteligenței artificiale capabile să desfășoare operațiuni cibernetice complexe trebuie să fie însoțită obligatoriu de măsuri defensive pe măsură. Cu cât cresc capacitățile tehnice ale modelelor, cu atât trebuie întărite barierele de siguranță și mecanismele de control.

„Principala lecție desprinsă din acest incident este că securitatea și siguranța modelelor trebuie să țină pasul cu capacitățile care avansează rapid”, evidențiază OpenAI, accentuând ideea că inovația fără protecție adecvată poate genera riscuri greu de gestionat.

La rândul său, CEO-ul Hugging Face, Clem Delangue, subliniază că acest caz demonstrează clar importanța colaborării strânse între companiile din domeniul inteligenței artificiale, mai ales atunci când este vorba despre incidente de securitate cu impact larg.

„Suntem recunoscători pentru colaborarea cu OpenAI pe această temă și pe alte subiecte. Acest incident, probabil primul de acest gen, demonstrează un lucru în care credem de mult timp: siguranța IA nu va fi asigurată de o singură companie care lucrează în secret. Ea va fi asigurată în mod deschis, prin colaborare, cu acces larg la IA pentru fiecare specialist în securitate, oriunde s-ar afla”, a zis Clem Delangue, cofondator și CEO al Hugging Face.