22 de state cer menținerea inteligenței artificiale sub control uman și propun o agenție globală de supraveghere

Un grup format din 22 de state a semnat la New York o declarație oficială prin care solicită ca inteligența artificială să rămână permanent sub supraveghere și control uman. Țările semnatare propun, de asemenea, înființarea unei agenții internaționale de monitorizare, după modelul structurii care supraveghează domeniul energiei atomice.

Inițiativa a fost lansată de președintele Finlandei, Alexander Stubb, și de premierul Norvegiei, Jonas Gahr Store, cu puțin timp înaintea întâlnirii dintre președintele Statelor Unite, Donald Trump, și liderul chinez Xi Jinping. Demersul urmărește stabilirea unor bariere de securitate pentru prevenirea folosirii armelor autonome și limitarea atacurilor cibernetice coordonate de sisteme inteligente.

În marja Adunării Generale a Națiunilor Unite de la New York, cele 22 de națiuni au adoptat luni o poziție comună privind viitorul inteligenței artificiale. Statele semnatare afirmă că această tehnologie „trebuie să rămână sub îndrumare, supraveghere și control uman” și susțin crearea unui organism global care să aibă atribuții de monitorizare și evaluare.

Documentul recunoaște „potențialul de a îmbunătăți viața oamenilor, de a dezvolta știința și de a întări economiile”, însă avertizează că „dezvoltarea rapidă a modelelor de frontieră de inteligență artificială ridică riscuri grave de siguranță și securitate dacă nu este gestionată corespunzător”. Inițiatorii consideră că ritmul accelerat al dezvoltării tehnologice impune reguli clare înainte ca sistemele avansate să fie folosite la scară largă.

Declarația capătă o importanță strategică deosebită înaintea întrevederii programate joi, în capitala Statelor Unite, între Donald Trump și Xi Jinping. Cele două mari puteri care domină competiția tehnologică mondială nu se regăsesc, deocamdată, printre semnatarii documentului. Cu toate acestea, Alexander Stubb, unul dintre principalii promotori ai inițiativei, speră ca atât Statele Unite, cât și China să se alăture discuțiilor.

„Cred că va fi în interesul ambelor părți, atât al Chinei, cât și al Statelor Unite, să existe un set de bariere de protecție. Iar mesajul nostru aici este că avem nevoie de intervenție umană, deci oamenii trebuie să fie la conducere”, a subliniat liderul finlandez.

Pentru a evidenția urgența unor măsuri internaționale, inițiatorii au menționat atacul cibernetic recent în care agenți autonomi de inteligență artificială ar fi fost utilizați împotriva platformei Hugging Face. În acest context, declarația le cere companiilor din sectorul tehnologic „să dezvolte protocoale transparente de siguranță, inclusiv teste obligatorii înainte de lansare și evaluări independente, acordând evaluatorilor calificați acces suficient pentru analiza riscurilor”.

Documentul nu solicită blocarea cercetării și nici încetinirea dezvoltării noilor tehnologii. Accentul este pus pe reducerea pericolelor și pe crearea unui sistem comun de prevenție. Țările semnatare susțin armonizarea standardelor, notificarea reciprocă a incidentelor majore de securitate și înființarea unei instituții internaționale bazate pe mecanisme de monitorizare deja consacrate.

Alexander Stubb a declarat că forma finală a viitorului organism nu este încă stabilită. „preferința noastră personală” vizează o structură asemănătoare Agenției Internaționale pentru Energie Atomică „în cadrul ONU”, dar „trebuie să lăsăm opțiunile deschise, astfel încât oamenii să nu o respingă doar pentru că ar funcționa sub umbrela ONU”. Afirmația face referire la rezervele cunoscute ale liderului de la Casa Albă față de organizația internațională.

Premierul norvegian Jonas Gahr Store, coinițiator al declarației, consideră că tema ar trebui preluată și de alte formate internaționale cu influență. „ne-ar bucura foarte mult să vedem că atât G7, cât și viitoarea președinție G20 a Regatului Unit preiau această temă... ONU este o organizație mare, dar G7 și G20 au o abordare ceva mai concentrată”.

Marea Britanie nu s-a alăturat încă inițiativei, însă proiectul beneficiază de sprijinul cancelarului german Friedrich Merz. Lipsa unor semnături importante din Europa, inclusiv cele ale Franței, Italiei și Poloniei, arată că obținerea unei poziții comune la nivel continental rămâne dificilă. În același timp, susținătorii declarației încearcă să convingă și alte guverne să accepte principiile propuse.

Liderul de la Helsinki a precizat că nici el, nici omologul său norvegian nu lansează avertismente apocaliptice. Ei consideră însă că există cel puțin trei domenii în care lipsa controlului uman ar putea deveni deosebit de periculoasă: dezvoltarea armelor biologice cu ajutorul algoritmilor, atacurile informatice conduse de agenți digitali autonomi și fabricarea unor roboți capabili să ucidă fără o comandă umană directă.

Potrivit inițiatorilor, dacă aceste riscuri sunt abordate din timp, beneficiile noilor tehnologii pot fi păstrate și extinse. În lipsa unor reguli și mecanisme de verificare, însă, avantajele inteligenței artificiale ar putea fi umbrite de consecințele unor utilizări necontrolate.

Stubb a spus că beneficiile pot fi „mult mai mari” dacă tehnologia își păstrează direcția corectă, de la „eradicarea bolilor, până la productivitate, acces la informație și multe alte domenii”. Pentru ca aceste perspective să devină realitate, liderii celor 22 de state consideră necesară menținerea oamenilor în centrul deciziilor privind dezvoltarea și folosirea inteligenței artificiale.