OpenAI renunță la lansarea modelului GPT-6.1 Astra din cauza riscurilor de siguranță

OpenAI nu va lansa noul său model de inteligență artificială, GPT-6.1 Astra, din cauza unor preocupări legate de siguranță, a confirmat marți compania care a creat ChatGPT.

Sistemul de inteligență artificială poate îndeplini sarcini precum navigarea pe internet și utilizarea autonomă a aplicațiilor. Totuși, acesta „nu a atins pe deplin nivelul cerut” de standardele companiei, a declarat Saachi Jain, șefa departamentului pentru sisteme de siguranță al OpenAI.

Tot marți, OpenAI a publicat o actualizare privind incidentele produse în iunie, dar făcute publice abia săptămâna trecută. În cadrul acestor incidente, modelele companiei au accesat fără autorizație site-uri și sisteme ale guvernului australian.

Incidentul, precum și alte breșe similare provocate de modele dezvoltate de marile companii de inteligență artificială, au intensificat în ultimele săptămâni dezbaterea privind riscurile asociate acestei tehnologii.

În aceeași perioadă, mai mulți lideri importanți din domeniul inteligenței artificiale, printre care Sam Altman, directorul OpenAI, și Dario Amodei, conducătorul Anthropic, au cerut industriei să încetinească ritmul dezvoltării. Apelul a fost motivat de preocupările privind riscurile pe care le implică tehnologia.

Decizia OpenAI de a renunța la noua versiune reprezintă un caz rar în care un dezvoltator important de sisteme de inteligență artificială retrage o lansare din cauza problemelor de siguranță.

Potrivit lui Jain, cel mai recent model nu a respectat suficient cerințele referitoare la „menținerea în limitele scopului și ale autorizării, precum și la modul în care comunică utilizatorului ce tip de activitate a realizat”.

„Vrem să ne asigurăm că dezvoltarea modelelor noastre este sigură, indiferent dacă acestea sunt folosite în cadrul companiei sau sunt puse la dispoziția utilizatorilor. Însă, atunci când le oferim utilizatorilor, avem un standard extrem de ridicat în ceea ce privește siguranța și alinierea”, a adăugat ea.

Modelul autonom GPT-6 Astra, prezentat drept produsul-fanion al companiei, a fost lansat în septembrie și este specializat în raționamente complexe și în executarea autonomă a sarcinilor. OpenAI a afirmat că modelul este rezultatul „anilor de cercetare și al unor investiții majore”.

Controalele de securitate ale companiei au fost supuse unei examinări intense după mai multe incidente de amploare în care a fost implicată tehnologia sa.

Săptămâna trecută, premierul australian Anthony Albanese a anunțat că un agent OpenAI neautorizat a pătruns în site-uri și sisteme guvernamentale în luna iunie și a accesat date private. Experții au descris situația drept primul caz cunoscut de acest fel la nivel mondial.

Albanese a criticat, de asemenea, OpenAI pentru că a notificat guvernul australian prin intermediul unei adrese generale de e-mail, în loc să contacteze direct oficialii responsabili.

Într-un comunicat transmis marți, OpenAI și-a cerut scuze pentru incident și a recunoscut că „ar fi trebuit să gestioneze mai bine răspunsul nostru”. Compania a oferit astfel primele explicații suplimentare despre modul în care a reacționat la accesarea sistemelor guvernamentale.

În iulie, OpenAI a anunțat că sistemele sale de inteligență artificială au accesat internetul și au pătruns în platforma pentru dezvoltatori Hugging Face. Incidentul i-a determinat pe cercetători și oficiali să solicite controale mai stricte asupra tehnologiei.

Luni, producătorul de cipuri pentru inteligență artificială Nvidia a lansat un set de instrumente software de siguranță pentru platformele autonome de inteligență artificială, cunoscute sub denumirea de agenți. Compania a susținut că aceste instrumente ar fi putut preveni atacul asupra Hugging Face.

Unul dintre noile instrumente folosește funcții hardware integrate în cipurile Nvidia pentru a limita și izola activitatea agenților. Astfel, acțiunile acestora pot fi controlate mai strict, în special atunci când sistemele execută sarcini fără intervenție umană directă.

Directorul Nvidia, Jensen Huang, a respins în mare parte apelurile pentru reglementări mai stricte în domeniul inteligenței artificiale. El a susținut că agenții neautorizați reprezintă o problemă de inginerie, care poate fi rezolvată prin soluții tehnice.

Nvidia a acceptat la începutul acestei luni să cumpere Hugging Face pentru 12,9 miliarde de dolari, într-o tranzacție care subliniază importanța tot mai mare a platformelor pentru dezvoltarea sistemelor de inteligență artificială.

Președintele Statelor Unite, Donald Trump, și președintele Camerei Reprezentanților, Mike Johnson, urmau să găzduiască marți, la Casa Albă, o întâlnire cu lideri ai industriei tehnologice. Discuțiile urmau să se concentreze asupra reglementărilor privind inteligența artificială.

Trump a minimalizat în repetate rânduri îngrijorările privind riscurile inteligenței artificiale, calificându-le drept o „farsă”. El a susținut că Statele Unite dispun deja de legi suficiente și că singurele „măsuri de protecție” de care are nevoie tehnologia sunt un președinte „puternic și inteligent”.