Agent AI creat de OpenAI a accesat fără autorizație un portal al Guvernului Australiei

Un agent AI dezvoltat de OpenAI a accesat fără autorizație un portal al guvernului australian, într-un incident considerat fără precedent.

Un agent de Inteligență Artificială (AI), creat de OpenAI, a pătruns într-un portal al guvernului australian care conținea date medicale, inclusiv informații nepublice despre sistemul Medicare. Premierul australian a declarat, miercuri, 23 septembrie, că acesta este primul caz cunoscut în care Inteligența Artificială a piratat o rețea guvernamentală.

Incidentul a avut loc în luna iunie, însă compania a descoperit ce s-a întâmplat abia în august și a informat autoritățile australiene pe 10 septembrie. Premierul Anthony Albanese a catalogat situația drept „inacceptabilă” și a discutat direct cu directorul general al OpenAI, Sam Altman, despre breșa de securitate.

„Agentul de Inteligență Artificială a accesat atât fișiere publice, cât și nepublice” din baza de date statistică Medicare a țării și chiar a scris fișiere în aceasta, a declarat Anthony Albanese reporterilor, la New York, în marja Adunării Generale a Națiunilor Unite (AGONU).

Dezvăluirea incidentului vine după alte situații în care agenți AI au acționat în mod neașteptat și au depășit limitele stabilite de administratorii lor umani. Totodată, cazul apare după apelurile unor personalități importante din industria Inteligenței Artificiale, inclusiv ale directorului general al OpenAI, Sam Altman, pentru încetinirea ritmului de dezvoltare a tehnologiei.

Un apel similar a fost lansat și de directorul Anthropic, Dario Amodei, care a avertizat că "în 6-12 luni, un grup de agenţi AI va fi capabil să preia controlul internetului".

Albanese a declarat că, într-o convorbire telefonică purtată miercuri, i-a transmis lui Altman „îngrijorarea extremă” a Australiei cu privire la incident. Premierul a adăugat că autoritățile de la Canberra nu cunosc niciun precedent pentru încălcarea unui sistem guvernamental de către Inteligența Artificială.

„O investigație criminalistică este în curs de desfășurare pentru a afla mai multe informații, inclusiv ce alte sisteme guvernamentale au fost afectate”, a spus premierul australian.

Atacul cibernetic s-a produs în timp ce un agent OpenAI realiza cercetări privind cheltuielile din domeniul sănătății. Potrivit lui Albanese, agentul a ocolit blocajele de securitate pentru a găsi răspunsuri în zone pe care nu avea autorizația să le acceseze.

Purtătorul de cuvânt al OpenAI, Drew Pusateri, a declarat că incidentul s-a produs în iunie, însă compania a fost informată despre acesta abia în august. Întârzierea a fost pusă pe seama verificărilor ample efectuate asupra activității modelelor sale de Inteligență Artificială.

„În timpul acestei analize, am identificat activități care au implicat mai multe site-uri web și servicii ale guvernului australian, în timp ce modelele noastre încercau să caute răspunsuri și statistici disponibile pentru întrebări despre Australia în timpul unei evaluări interne. În cursul acesteia, modelele noastre au întreprins acțiuni pe care nu le-am intenționat”, a spus Pusateri.

Anthony Albanese a declarat că alte trei sisteme guvernamentale ar fi putut fi afectate de activitatea agentului. Printre acestea se numără Institutul Australian de Sănătate și Bunăstare, Biroul de Statistică și Cercetare a Criminalității din New South Wales și Departamentul de Sănătate din Victoria.

OpenAI a afirmat că nu a găsit nicio dovadă potrivit căreia dosarele pacienților ar fi fost accesate în timpul breșei de securitate a sistemului Medicare. Compania a precizat că informațiile implicate includeau „statistici agregate privind sănătatea și nume de fișiere interne”.

Compania a susținut că a informat guvernul australian despre incident pe 10 septembrie, prin poștă. Premierul a criticat atât întârzierea notificării, cât și modul în care aceasta a fost transmisă.

„Companiei i-a luat mult prea mult timp să informeze guvernul despre ce s-a întâmplat, iar natura modului în care a avut loc notificarea a fost, de asemenea, inacceptabilă. Cred că OpenAI știe că trebuie să aibă protocoale mai bune”, a mai spus Anthony Albanese.

Ministrul australian al Apărării, Richard Marles, a anunțat joi, 23 septembrie, o anchetă desfășurată de un grup de lucru cu privire la ultima breșă de securitate. În același timp, el a încercat să liniștească publicul, afirmând că impactul incidentului a fost „relativ minor”.

„Nu au fost accesate date medicale ale unor persoane aici. Sistemul în sine nu a fost compromis în niciun fel”, a spus el.

Directorul general al OpenAI, Sam Altman, și CEO-ul Anthropic, Dario Amodei, au cerut din nou o coordonare globală și stabilirea unor standarde internaționale pentru dezvoltarea Inteligenței Artificiale. Cei doi au făcut apelul miercuri, în cadrul Adunării Generale a ONU.

Altman i-a îndemnat pe liderii lumii să creeze standarde internaționale pentru „măsurarea capacităților, evaluarea riscurilor, determinarea dacă măsurile de siguranță sunt suficiente și menținerea unei supravegheri umane semnificative” asupra tehnologiei aflate într-o dezvoltare continuă.

În iulie, OpenAI a dezvăluit că, în timpul unor teste de securitate cibernetică, modelele sale au creat numeroși agenți AI care au piratat sistemele companiei de Inteligență Artificială "Hugging Face". Mai multe persoane din industrie au indicat acel atac cibernetic drept un exemplu clar al riscurilor asociate ritmului rapid de dezvoltare a tehnologiei AI.

Walayat Hussain, profesor de tehnologia informației la Universitatea Catolică Australiană din Sydney, a declarat că cel mai recent incident, împreună cu breșa de securitate de la Hugging Face din iulie, pare să indice existența unui tipar.

„Agenții AI de astăzi devin străluciți în a duce lucrurile la bun sfârșit, dar încă nu sunt în stare să știe unde este limita. Nu ne putem baza pe agenții de Inteligență Artificială să se autocontroleze și nu putem cere companiilor care îi construiesc să își corecteze singuri temele”, a spus el.

Hussain a avertizat că multe sisteme guvernamentale nu au fost proiectate având în vedere existența unor agenți de Inteligență Artificială sofisticați. Din acest motiv, ele pot fi vulnerabile în fața unor atacuri de acest tip, în special atunci când agenții reușesc să depășească restricțiile stabilite de administratorii umani.