Google investighează accesarea neautorizată a trei sisteme informatice de către modelul Gemini

Modelul de inteligență artificială al Google, Gemini, a accesat fără autorizație trei sisteme informatice externe în timpul unui test desfășurat în luna mai. Compania susține că acțiunile modelului au fost provocate de o confuzie a sistemului și nu reprezintă un caz de comportament neconform.

Google a făcut public primul caz cunoscut în care Gemini, software-ul său de inteligență artificială, a pătruns într-un sistem aflat în afara mediului de testare.

Potrivit companiei, modelul a reușit să obțină acces la trei sisteme externe după ce a ghicit date de autentificare sau a folosit credențiale găsite online. Gemini s-a oprit însă înainte de a provoca daune ori de a executa acțiuni suplimentare asupra sistemelor respective.

Google a precizat că accesările au fost cauzate de o eroare în identificarea mediului de testare. Modelul nu și-ar fi dat seama că a părăsit zona destinată testelor și a întrerupt operațiunile înainte de a face alte modificări. Compania a subliniat că incidentul nu reprezintă un caz în care un model de inteligență artificială a refuzat să respecte instrucțiunile primite.

Google a aflat despre accesările neautorizate în luna iulie, în timp ce firma de securitate cibernetică Irregular efectua teste asupra Gemini și analiza rezultatele. Scopul verificărilor era identificarea unor incidente similare cu cele raportate anterior de alte companii din domeniu.

Ulterior, Google a investigat incidentele, a informat organizațiile care administrau sistemele accesate și a notificat autoritățile federale. Irregular a transmis că nu consideră cazul o acțiune cibernetică sofisticată și că, în prezent, nu există probleme deschise în legătură cu aceste accesări.

Incidentul are loc pe fondul preocupărilor tot mai mari privind comportamentul autonom al agenților de inteligență artificială. În ultimele luni, mai multe companii din domeniu au raportat situații în care modelele lor au avut reacții neașteptate în timpul testelor de securitate.

Totodată, companiile din sector au solicitat încetinirea ritmului de dezvoltare, în contextul îngrijorărilor legate de riscurile inteligenței artificiale. Preocupările privind siguranța acestor sisteme au revenit în atenție după ce un cercetător care a lucrat și la OpenAI, și la Anthropic, a avertizat că IA ar putea „elimina omenirea până la sfârșitul deceniului”.