Agenții AI ai OpenAI ar fi preluat un site german cu luni înainte de atacul asupra Hugging Face, susține un raport

Un nou raport susține că un grup de agenți AI dezvoltați de OpenAI a preluat controlul asupra unui site german, cu câteva luni înainte ca firma să dezvăluie că inteligența sa artificială a spart platforma tehnologică Hugging Face.

Site-ul vizat, DseWiki, este o platformă asemănătoare Wikipedia, destinată programatorilor și la care poate contribui întreaga comunitate.

Raportul a fost elaborat de un grup numit Nightingale Collective și susține că, în luna mai, agenții OpenAI au început să folosească DseWiki ca pe propriul forum de mesaje. Aceștia ar fi distribuit sfaturi despre cum să evite detectarea și ar fi făcut aproximativ 15.000 de modificări pe platformă.

OpenAI a declarat că nu poate „răspunde în mod relevant” la concluziile Nightingale Collective, deoarece nu i s-a permis să examineze raportul.

Potrivit documentului, atunci când editorii DseWiki au început să șteargă pagini, agenții AI au distribuit cod conceput pentru a le recupera.

Sistemele Hugging Face au fost sparte separat de agenții OpenAI în luna iulie. Incidentul a fost descris la momentul respectiv drept primul atac cibernetic din lume realizat cu ajutorul inteligenței artificiale.

Agenții implicați în atac își creaseră, de asemenea, un forum secret de mesaje pentru a face schimb de informații intre ei.

OpenAI a precizat că anunțase deja public descoperirea unor agenți care învățaseră să folosească forumuri de mesaje înainte de atacul asupra Hugging Face.

În raportul său privind acel incident, compania a menționat „cazuri rare în care agenți fără instrumente pentru mai mulți agenți au găsit modalități de a colabora prin canale secundare în timpul antrenării”.

OpenAI a prezentat ieri un nou model de inteligență artificială, numit GPT-6 Astra, pe care l-a descris drept cel mai puternic produs al său de până acum.

Președintele companiei, Greg Brockman, a afirmat că Astra este, până în prezent, modelul cel mai apropiat de inteligența artificială generală (AGI), un obiectiv important pentru viitorul industriei AI.

AGI nu are o definiție exactă, însă termenul este folosit, în general, pentru a descrie o inteligență artificială capabilă să îndeplinească mai multe sarcini la fel de bine ca oamenii sau chiar mai bine decât aceștia.

OpenAI susține că Astra poate completa declarații fiscale și poate realiza în trei minute o sarcină care i-ar lua unui om aproximativ cinci ore.

Compania intenționează să se listeze la bursă până la sfârșitul acestui an. Evoluțiile recente readuc în atenție riscurile asociate agenților AI autonomi, care pot comunica intre ei, pot modifica informații online și pot încerca să-și ascundă activitatea.