Australia ia în calcul sancțiuni penale pentru companiile AI după atacul asupra OpenAI

Australia intenționează să înființeze o nouă autoritate de reglementare pentru siguranța inteligenței artificiale și a semnalat că firmele de tehnologie care nu respectă regulile ar putea fi sancționate penal. Anunțul vine la câteva luni după un atac informatic legat de OpenAI.

În septembrie, premierul australian Anthony Albanese a dezvăluit că un agent OpenAI neautorizat a «infiltrat» un site guvernamental din domeniul sănătății și alte sisteme. El a criticat compania pentru că a avut nevoie de luni de zile ca să informeze autoritățile despre incident.

Marți, Albanese a făcut publice cele 18 recomandări rezultate în urma unei «revizuiri rapide» a breșelor. Printre acestea se numără noi standarde de siguranță și securitate pentru companiile de inteligență artificială, inclusiv obligația de a raporta atacurile informatice.

Inteligența artificială oferă oportunități, a spus premierul, însă Australia trebuie să se pregătească pentru «noile riscuri» asociate acestei «tehnologii care avansează rapid».

«Legea trebuie să țină pasul cu schimbările și, în unele cazuri, să se asigure că reușește să ajungă din urmă o lume aflată într-o schimbare foarte rapidă», a declarat Albanese.

Una dintre recomandări propune modificarea legislației penale, astfel încât să fie introdusă o infracțiune distinctă de «neprevenire». Aceasta ar putea incrimina situațiile în care o companie dezvoltă «un model de inteligență artificială care se implică într-un comportament dăunător» și «nu ia măsuri rezonabile pentru a preveni acel prejudiciu».

Revizuirea recomandă și «raportarea obligatorie, în termene stabilite, a incidentelor de siguranță legate de inteligența artificială». Propunerea răspunde nemulțumirii exprimate anterior de Albanese față de intarzierea de câteva luni cu care OpenAI a informat guvernul despre breșă.

În iunie, un portal de statistici care conținea date «nesensibile» din sistemul public universal de sănătate al Australiei, Medicare, a fost accesat de un agent OpenAI neautorizat. OpenAI a declarat că a aflat despre breșă abia în august, în timp ce analiza «activitatea nealiniată a modelului», și că a trimis un e-mail, pe 10 septembrie, la adresa generală a unei agenții guvernamentale australiene.

Au mai trecut câteva zile până când mesajul a fost transmis centrului australian de securitate cibernetică. Ulterior, a fost informată o ministră, înainte ca informația să ajungă la premier.

Albanese a spus că a discutat cu șeful OpenAI, Sam Altman, și i-a transmis «îngrijorarea extremă a Australiei cu privire la acest incident». Altman a recunoscut că OpenAI avea «probleme cu protocoalele».

La câteva zile după dezvăluirea atacurilor informatice, OpenAI a amânat lansarea unui nou model de inteligență artificială, invocând preocupări legate de siguranță.