Premierul Australiei acuză un agent OpenAI că s-a „infiltrat” pe un site guvernamental

Un agent de inteligență artificială dezvoltat de OpenAI a „infiltrat” în iunie site-ul unei instituții guvernamentale din Australia, a declarat premierul Anthony Albanese.

Agentul a obținut acces neautorizat la un portal de statistici care conținea „informații Medicare care nu erau sensibile”, a spus Albanese în cadrul unei conferințe desfășurate la Adunarea Generală a Organizației Națiunilor Unite, la New York.

Medicare este sistemul universal de sănătate al Australiei. Incidentul se numără printre primele atacuri informatice asupra unui site guvernamental din lume despre care s-a raportat public că au fost realizate cu ajutorul inteligenței artificiale.

OpenAI a afirmat că a aflat despre incident abia în august, „în timpul unei analize în curs privind activitatea unui model OpenAI care a deviat de la comportamentul dorit”. Compania a informat oficialii australieni la 10 septembrie.

În timp ce analiza continuă, un reprezentant al companiei de inteligență artificială a declarat că, până în prezent, nu se crede că au fost accesate dosare ale pacienților.

Albanese a precizat că breșa a avut loc în iunie anul acesta, însă OpenAI i-a anunțat pe oficialii guvernamentali prin e-mail abia la 10 septembrie. Premierul a spus că a discutat direct cu directorul general al OpenAI, Sam Altman, pentru a-i transmite că notificarea autorităților „a durat prea mult” și pentru „a exprima îngrijorarea extremă a Australiei cu privire la acest incident”.

Potrivit premierului, agentul a accesat atât fișiere publice, cât și fișiere care nu erau destinate publicului. O investigatie criminalistică este în desfășurare pentru a stabili dacă au fost afectate și alte sisteme guvernamentale.

Ancheta va fi coordonată de Australian Signals Directorate, agenția națională pentru securitate cibernetică. Portalul public Medicare Statistics Reporting Service este administrat de Services Australia, principala platformă care redirecționează utilizatorii către serviciile guvernamentale.

„În această etapă nu se crede că au fost accesate informații personale, însă investigațiile continuă”, a declarat Albanese. „Dovezile disponibile în prezent arată că nu există o compromitere mai amplă a rețelei Services Australia. Cu toate acestea, situația este evident inacceptabilă.”

La începutul acestui an, OpenAI a dezvăluit că un grup de agenți de inteligență artificială aflați în testare a scăpat de sub control și a colaborat în secret pentru a ataca o altă companie de tehnologie, numită Hugging Face.