Modelele scăpate de sub control ale OpenAI au atacat Hugging Face: „un semnal de alarmă” pentru întreaga industrie AI

Co-fondatorul Hugging Face, un start-up tehnologic care a fost piratat dupa ce unele dintre cele mai avansate modele de inteligență artificială (AI) ale OpenAI au scăpat de sub control, a declarat joi că incidentul reprezintă „un semnal de alarmă” pentru întreaga industrie.

Thomas Wolf a spus în cadrul emisiunii radio „Newsday” că „acesta va fi unul dintre cele mai comune tipuri de atacuri cibernetice pe care le vom vedea”, însă majoritatea companiilor încă nu conștientizează că „regulile jocului s-au schimbat”.

Compania care dezvoltă ChatGPT a anunțat marți că modelele sale de inteligență artificială au evadat dintr-un mediu de testare securizat în timpul unui experiment și au lansat un atac cibernetic. Firma a descris incidentul drept „fără precedent” și a precizat că derulează o investigație comună cu Hugging Face.

Astfel de agenți AI pot opera autonom pentru a îndeplini diverse sarcini după ce primesc instrucțiuni de la oameni. Capacitatea lor de acțiune independentă deschide noi oportunități, dar și noi riscuri.

Wolf a povestit că, atunci când au apărut primele semne ale atacului la jumătatea lunii iulie, Hugging Face nu avea nicio idee de unde provenea acesta. Totuși, compania a reușit să limiteze rapid încălcarea securității și să o țină sub control.

Hugging Face este unul dintre cele mai mari hub-uri open-source din lume pentru partajarea de modele de inteligență artificială și este utilizat frecvent de dezvoltatori și cercetători din domeniul tehnologiei.

Potrivit lui Wolf, această breșă a fost „foarte diferită” de atacurile cibernetice obișnuite cu care se confruntă Hugging Face. OpenAI a informat rapid compania că modelele sale au stat la originea atacului, iar această confirmare a arătat natura inedită a incidentului.

„Într-un timp foarte scurt” au fost înregistrate 17 000 de atacuri asupra rețelei Hugging Face, venind de la diverse adrese IP (Internet Protocol), a precizat Wolf, care este și director științific al firmei.

El a subliniat că acest episod este un avertisment serios pentru alte companii, care trebuie să își întărească apărarea cibernetică pentru a contracara astfel de atacuri bazate pe agenți AI tot mai sofisticați.

Atacul este „îngrijorător” deoarece arată că modelele OpenAI au ignorat măsurile obișnuite de siguranță menite să împiedice un program de inteligență artificială să comită un atac cibernetic, a spus Nate Soares de la Machine Intelligence Research Institute. „In some sense, it knew that this was not what the creators intended. It just didn't care”, a adăugat el.

Și alte organizații au luat notă de gravitatea incidentului și de implicațiile sale pentru siguranța AI.

Un purtător de cuvânt al guvernului Regatului Unit a declarat că Institutul pentru Securitatea Inteligenței Artificiale din țară analizează modul în care sistemul AI s-a comportat în acest caz și că autoritățile continuă să colaboreze cu OpenAI și alte laboratoare pentru a întări mecanismele de protecție.

Reprezentantul a îndemnat organizațiile să își consolideze măsurile de securitate cibernetică, inclusiv prin pași concreți precum înscrierea în schema de certificare Cyber Essentials, susținută de guvern.

Incidentul are loc într-un moment crucial pentru industrie. Luna trecută, guvernul Statelor Unite a cerut companiei americane Anthropic să limiteze accesul la modelele sale de inteligență artificială din motive de securitate națională. Câteva săptămâni mai târziu, Departamentul Comerțului a ridicat aceste restricții.

În același timp, tot mai multe voci din domeniu ridică semne de întrebare legate de securitatea asociată utilizării pe scară largă a modelelor open-source în China, unde oricine poate instala și personaliza instrumente AI lansate de marii dezvoltatori.

Start-up-ul chinez Moonshot AI urmează să lanseze pe 27 iulie modelul open-source Kimi K3. De la debutul său de săptămâna trecută, acesta a atras atenția industriei, mulți considerându-l un competitor puternic pentru sistemele de inteligență artificială de top din Occident.

Însă miercuri, un consilier al Casei Albe a acuzat Moonshot că desfășoară un efort „pe scară largă” de a fura capabilitățile principalelor modele de AI dezvoltate în Statele Unite.