Ministrul britanic pentru inteligență artificială avertizează că apărarea cibernetică a Regatului Unit ar putea fi compromisă

Ministrul britanic pentru inteligență artificială a avertizat că este „probabil, dacă nu chiar inevitabil” ca, la un moment dat, apărarea cibernetică a Regatului Unit să fie compromisă.

În cadrul unei conferințe de presă, Kanishka Narayan a făcut referire la incidentul din iunie, când un agent neautorizat al companiei OpenAI a accesat și a atacat un site al guvernului australian.

Ministrul a precizat că nu există informații potrivit cărora în timpul atacului ar fi fost accesate dosare medicale. Cu toate acestea, el a subliniat că incidentul ar trebui să „ne îngrijoreze”.

Narayan a anunțat că guvernul intenționează să folosească sisteme avansate de inteligență artificială pentru a contracara astfel de amenințări. Totodată, autoritățile pregătesc măsuri pentru a face față unor incidente grave care ar putea apărea în viitor.

Potrivit ministrului, noua strategie se va baza pe două proiecte-pilot deja existente. Acestea au contribuit la identificarea și remedierea a peste 1.000 de vulnerabilități în sistemele informatice ale instituțiilor guvernamentale.

Mesajul transmis de Narayan celor mai mari companii care dezvoltă cele mai puternice sisteme de inteligență artificială a fost următorul: „Ascultați atunci când oamenii de știință vă avertizează cu privire la pericole grave. Investigați comportamentele neașteptate. Iar dacă nu puteți controla în mod adecvat riscurile, nu lansați sistemul.”

În discursul său, ministrul a confirmat și că oamenii de știință de la Institutul pentru Siguranța Inteligenței Artificiale din Regatul Unit, cunoscut sub numele de AISI, efectuează „evaluări riguroase” ale celor mai noi modele avansate de inteligență artificială.

Scopul acestor evaluări este de a „identifica riscurile din timp” și de a „testa măsuri de protecție solide, pentru a contribui la siguranța oamenilor”. AISI a început să analizeze riscurile celor mai avansate modele înainte de lansarea lor publică, la scurt timp după înființarea sa, în noiembrie 2023.

În septembrie, s-a aflat că administrația de la Washington le-ar fi cerut unor laboratoare importante din Statele Unite să nu transmită modelele lor organizației britanice de cercetare până la finalizarea propriilor teste.

Decizia a fost considerată atunci o lovitură pentru AISI, instituție susținută de guvernul britanic și de partenerii săi pentru promovarea unor evaluări deschise, constructive și colaborative în domeniul inteligenței artificiale.

Brad Smith, președintele Microsoft, a declarat recent că institutul a contribuit la consolidarea poziției Regatului Unit ca țară cel mai bine plasată pentru a impulsiona reglementarea globală a inteligenței artificiale.

Luni, Narayan a spus că, în ultimele săptămâni, guvernul britanic a colaborat cu Statele Unite „pentru a păstra accesul AISI din Regatul Unit la cele mai puternice modele de inteligență artificială înainte ca acestea să fie lansate”.

El a mai anunțat că autoritățile britanice vor analiza posibilitatea introducerii unor garanții mai stricte prin proiectul de lege privind securitatea și reziliența cibernetică. O atenție deosebită va fi acordată modului în care incidentele grave asociate inteligenței artificiale pot fi identificate și raportate.

Anunțul vine după o serie de incidente în care agenți de inteligență artificială dezvoltați de companii importante, precum OpenAI și Anthropic, au acționat în afara controlului uman și au accesat sisteme externe.

Pe 9 septembrie, Evan Hubinger, unul dintre cercetătorii importanți în domeniul siguranței la Anthropic, a avertizat într-o postare publică că inteligența artificială evoluează atât de rapid, încât estimează la peste 10% șansa ca aceasta „să ucidă toți oamenii” în următorul deceniu.

Conducătorii unor companii americane majore din domeniu, inclusiv Anthropic, OpenAI și Google DeepMind, au susținut ideea încetinirii dezvoltării inteligenței artificiale.

În prezent, însă, nu există reguli globale de siguranță care să reglementeze companiile și tehnologiile dezvoltate de acestea. În același timp, președintele Donald Trump a cerut ca sectorul să se autoreglementeze, pentru ca firmele americane să nu piardă teren în fața concurenților din China.