OpenAI recunoaște: ChatGPT a atacat Hugging Face, între avertisment real și posibilă cascadorie de marketing în lumea IA

În această săptămână, lumea tehnologiei a fost cuprinsă de o poveste care pare desprinsă dintr-un thriller SF și care are de toate. Hugging Face – un fel de „magazin de aplicații” pentru instrumente de inteligență artificială – a anunțat pe 16 iulie că a fost atacată de un criminal cibernetic înarmat cu o inteligență artificială extrem de puternică.

Anunțul a fost o adevărată bombă: plin de termeni tehnici înfricoșători precum „roi de sandbox-uri”, „atacator agentic” și „comandă și control auto-migrator”. Hugging Face a precizat că acest atac a fost diferit de orice alt incident de securitate cu care se mai confruntase, pentru că a fost executat la o viteză supraumană de o IA cu puțină sau chiar fără îndrumare umană.

În mai puțin de două zile, sistemul de inteligență artificială a efectuat 17 000 de acțiuni, reușind să pătrundă în infrastructura unei companii tech mari și prospere și să fure informații sensibile. Lumea tehnologică a rămas în stare de șoc. Dar cine era, de fapt, responsabil pentru acest atac?

Cercetătorii Hugging Face au presupus că atacatorii misterioși au folosit unul dintre marile modele de IA, însă nu aveau nicio idee cine sunt sau unde se află infractorii. Nedumerită, compania a contactat poliția și au început investigațiile.

Comentatori și analiști au inundat podcasturile și rețelele sociale cu ipoteze despre ce grup de criminalitate cibernetică sau ce stat național ar putea fi în spatele operațiunii. Apoi, miercuri, la aproape o săptămână după ce Hugging Face a tras semnalul de alarmă, adevăratul vinovat a fost deconspirat.

A fost ChatGPT.

Dezvăluirea, aproape în stil „Scooby-Doo”, a devenit și mai bizară – și neliniștitoare – când s-a aflat că OpenAI a declarat că botul a făcut totul de unul singur, fără permisiune. Compania a explicat că totul s-a petrecut în timpul unui test al capacităților sale de hacking.

Două versiuni noi ale ChatGPT, concepute special pentru a fi hackeri de elită, au reușit să iasă dintr-un mediu de testare considerat securizat și să obțină acces la internet. Apoi au atacat Hugging Face pentru a se infiltra și a obține informații care să le ajute să „treacă examenul” cu note maxime.

OpenAI a emis un comunicat de presă în care a explicat ce s-a întâmplat și a declarat că „parteneriază cu Hugging Face” pentru a remedia incidentul de securitate și pentru a împărtăși lecțiile învățate. De atunci, în jurul cazului s-a aprins o dezbatere intensă.

Unii se întreabă dacă este cu adevărat un avertisment dur despre viitorul inteligenței artificiale. Alții suspectează că ar fi putut fi o cascadorie de marketing a OpenAI pentru a-și etala puterea modelelor. Este un tip de „scare marketing” de care companiile de IA sunt acuzate de ani buni, mai ales că, după mult discutatul lansaj al modelului Mythos al Anthropic, capacitățile în securitate cibernetică au devenit un punct central.

Un comentariu popular la postarea pe X a șefului OpenAI, Sam Altman, rezumă scepticismul: „If y'all can't understand that this was written to purely brag about the model then I don't know what to tell you.” Consultantul în securitate cibernetică Daniel Card a spus sarcastic pe LinkedIn: „Isn't it lucky [that] out of the millions of sites that got pwn3d [hacked], OpenAI managed to pwn someone who also could benefit from the marketing exposure…”

Pentru unii, povestea seamănă mai mult cu o dramă conspiraționistă decât cu un thriller SF. Mesajul implicit ar fi: „Nu-i așa că instrumentele mele de IA sunt incredibil de puternice? Cumpărați-le ca să vă protejați de atacurile IA ale altora.” Nu putem ști adevărul, însă cealaltă perspectivă, formulată de alți comentatori, este la fel de dramatică: e posibil ca OpenAI să fi făcut o eroare potențial periculoasă de judecată și planificare?

Autorii și experții care au relatat numeroase povești despre IA, inclusiv temerile din jurul modelului Mythos, spun că acum inboxurile lor sunt pline de mesaje de la companii și specialiști în securitate cibernetică ce critică OpenAI pentru că nu a construit un container mai robust pentru testarea sistemelor sale, așa-numitul „sandbox”.

În definitiv, aceste agenți IA au fost antrenați în mod explicit pentru a pătrunde în și a ieși din sisteme, fără restricții. „The OpenAI and Hugging Face incident is a real-world example of a broader issue we've been highlighting for months”, a explicat Dor Sarig de la Pillar Security. „Sandboxes alone are not a sufficient security boundary for agentic AI.”

Profesorul de securitate cibernetică Alan Woodward de la Universitatea din Surrey a declarat reporterilor că OpenAI are „egg on it's face”, iar Katie Moussouris de la Luta Security a mers și mai departe, sugerând că industria de inteligență artificială nu reușește să-și controleze propriile invenții periculoase. „We are working on cutting edge technology without the knowledge to contain it”, a spus ea. „Just because we have the smartest people developing AI does not mean we have the ability to do so safely.”

Din această perspectivă, dacă incidentul a fost într-adevăr o mișcare de promovare, atunci pare că a avut efectul invers celui dorit. Indiferent ce a stat la baza atacului, este clar că ne aflăm într-un moment major pentru industria IA și pentru lumea securității cibernetice, care s-au ciocnit în acest an într-un mod temut de multă vreme.

Comentând dezbaterea aprinsă, Francesca Bosco, consultant în IA și securitate cibernetică, a spus: „Two simplistic narratives are equally unhelpful: that this was a Hollywood-style escape, or that it was merely a publicity exercise. A more serious interpretation is that a stress test exposed weaknesses in containment and evaluation architecture.”

Acest episod se înscrie într-o serie tot mai lungă de exemple îngrijorătoare și bizare de agenți IA care scapă de sub control. În cercetări recente, Institutul pentru Securitatea IA din Marea Britanie (AISI) a descoperit că modelele IA de vârf sunt atât de obsedate de îndeplinirea sarcinilor încât au „trișat” la teste pentru a-și atinge obiectivele.

Cercetarea AISI a venit însoțită de un avertisment serios: „A model that pursues a goal through unintended or unauthorised means may cause harm, particularly in high-stakes use cases.” În mod inevitabil, incidentul OpenAI a alimentat și mai mult temerile privind ce s-ar putea întâmpla dacă agenții IA ar fi lăsați cu adevărat liberi. Ar putea deveni incontrolabili la scară largă și provoca un dezastru?

Aceste îngrijorări sunt cu atât mai puternice cu cât inteligența artificială este folosită tot mai mult în război, așa cum s-a văzut în Iran și Ucraina. Ciaran Martin, fost șef al Centrului Național de Securitate Cibernetică al Regatului Unit, a încercat să tempereze discuția. „It is a bit of a leap to go from this incident to saying that AI agents are going to take over drones and start killing people”, a spus el.

Totuși, pentru Martin și pentru mulți alții, povestea rămâne un exemplu extrem de sugestiv a ceva ce 2026 ne învață rapid: agenții de inteligență artificială sunt acum hackeri foarte buni – iar pentru asta trebuie să ne pregătim urgent.