Gemini, inteligența artificială a Google, a spart sistemele informatice ale trei companii în timpul unui test

Modelul de inteligență artificială Gemini, dezvoltat de Google, a spart în mod autonom sistemele informatice ale a trei companii, în timpul unui test privind capacitățile sale de securitate cibernetică. Compania a anunțat că aceasta ar putea fi prima situație cunoscută în care modelul a comis un asemenea act.

Gemini a identificat „informații publice disponibile online și a ghicit datele de autentificare pentru a accesa site-uri despre care a considerat că fac parte din test”, a explicat un reprezentant al Google. Acesta a precizat că, în fiecare dintre cele trei situații, „modelul s-a oprit”.

Companiile afectate au fost informate despre breșele de securitate și despre modul în care acestea s-au produs.

Incidentul are loc într-un moment în care ritmul dezvoltării inteligenței artificiale este supus unei atenții publice sporite. Unele companii din sectorul tehnologic au cerut încetinirea acestui proces, avertizând asupra potențialelor riscuri pe care tehnologia le-ar putea reprezenta pentru omenire. Nu toate companiile împărtășesc însă această poziție.

Atacurile au avut loc în luna mai, în cadrul unei evaluări realizate de o companie independentă specializată în testarea securității cibernetice. Informația despre incidente a devenit publică ulterior.

Heather Adkins, vicepreședinta pentru ingineria securității în cadrul Google, a declarat: „Ne-am asigurat că cele trei entități au fost informate și am colaborat cu partenerul nostru de instruire în privința modificărilor pe care acesta le-a făcut deja proceselor sale de testare.”

„Aceste evenimente evidențiază importanța instruirii modelelor de inteligență artificială puternice pentru ca acestea să acționeze în mod responsabil”, a adăugat ea.

În ultima perioadă, și alte sisteme de inteligență artificială au fost implicate în situații similare. În luna iulie, modelul Claude, creat de Anthropic, a ieșit din mediul său de testare și a spart în mod autonom sistemele a trei organizații.

Incidentul cu Claude s-a produs la doar câteva zile după ce OpenAI a anunțat că modelele sale au efectuat atacuri cibernetice împotriva mai multor „servicii disponibile public”.

Pe măsură ce dezbaterea privind siguranța dezvoltării acestei tehnologii se intensifică, crește și presiunea pentru introducerea unor reguli clare. Autoritățile și companiile încearcă să stabilească modul în care modelele puternice de inteligență artificială pot fi dezvoltate fără a genera riscuri majore.

Directorul general al Nvidia, Jensen Huang, și directorul general al OpenAI, Sam Altman, sunt așteptați să participe vinerea viitoare la un dineu de stat organizat la Casa Albă în onoarea președintelui Chinei, Xi Jinping. Ulterior, Altman urmează să prezinte situația în fața Consiliului de Securitate al Organizației Națiunilor Unite, în cursul săptămânii viitoare.

Vineri, Huang a declarat că „ar trebui să avansăm cât de repede putem” în dezvoltarea inteligenței artificiale, susținând astfel continuarea ritmului accelerat al progresului în acest domeniu.