Șefii OpenAI și Anthropic cer la ONU standarde globale pentru inteligența artificială

Conducătorii OpenAI, Anthropic și Hugging Face au declarat în fața Organizației Națiunilor Unite că ritmul actual de dezvoltare a inteligenței artificiale (IA), precum și riscurile pe care aceasta le prezintă pentru societate, impun o coordonare internațională.

Sam Altman a cerut stabilirea unor standarde comune pentru evaluarea riscurilor. O poziție similară au exprimat-o Dario Amodei, de la Anthropic, principalul rival al OpenAI, și Clement Delangue, de la Hugging Face.

La începutul acestei luni, Amodei a publicat un eseu susținut de Altman și de alte persoane din domeniu, în care a pledat pentru încetinirea dezvoltării IA, pe fondul temerilor privind amenințarea pe care această tehnologie o poate reprezenta pentru umanitate.

Totuși, în cadrul aceleiași conferințe a ONU, un consilier important pe probleme tehnologice al președintelui american Donald Trump a respins ideea unei noi forme de reglementare a inteligenței artificiale.

Michael Kratsios, fost director în cadrul companiei Uber, a recunoscut că ritmul dezvoltării IA este în creștere și că tehnologia implică anumite riscuri. El a declarat însă în fața ONU că acest lucru nu este un motiv suficient „pentru a pune pe pauză dezvoltarea sau pentru a o restrânge prin noi structuri globale de guvernanță”.

„Dialogul internațional în acest forum și în altele nu poate fi lăsat să evolueze către o guvernanță globală”, a adăugat Kratsios.

Comentariile sale au reluat declarații similare făcute de Donald Trump în ultimele săptămâni.

Trump a declarat marți, la ONU, că dorește să redenumească IA „super inteligență” și s-a opus ferm oricărei idei privind încetinirea dezvoltării acesteia, invocând avantajul competitiv al Statelor Unite în acest sector.

„Conducem China în domeniul IA... și, sincer, vreau să rămână așa, pentru că cine câștigă în domeniul IA câștigă”, a spus el la începutul acestei luni.

Sam Altman, de la OpenAI, și alți directori ai unor companii de inteligență artificială au exprimat o opinie diferită în cadrul discuțiilor purtate miercuri cu reprezentanții ONU.

„Dacă IA trebuie să fie democratică, cele mai importante decizii nu pot fi luate doar de laboratoarele din San Francisco”, a declarat Altman.

El a spus că dorește ca statele să înceapă să colaboreze pentru „binele colectiv în fața unei tehnologii noi și puternice”.

Altman a cerut elaborarea unor standarde „naționale și internaționale” pentru inteligența artificială. Acestea ar urma să permită măsurarea capacităților unui instrument de IA, evaluarea riscurilor asociate, stabilirea unor măsuri de protecție și determinarea nivelului la care este menținut controlul uman asupra unor astfel de instrumente.

El a solicitat, de asemenea, „protocoale rapide de raportare, clasificare și notificare a incidentelor, astfel încât lumea să poată învăța din eșecuri înainte ca acestea să se transforme în catastrofe”.

„Avem nevoie de standarde comune, pentru ca statele să poată compara dovezi, să verifice respectarea regulilor și să aibă un limbaj și o înțelegere comune cu privire la ceea ce se întâmplă”, a adăugat Altman.

Dario Amodei, de la Anthropic, și Clement Delangue, de la Hugging Face, au făcut declarații similare în discursurile lor.

Amodei a avertizat că inteligența artificială, „dacă este gestionată necorespunzător... ar putea reprezenta un risc pentru întreaga umanitate”.

El a adăugat că dezvoltarea în continuare a instrumentelor de IA necesită „standarde de siguranță și mai stricte”.

„Vom încetini atât cât va fi necesar pentru a ne asigura că fiecare tehnologie de IA succesivă pe care o lansăm este într-adevăr sigură”, a spus Amodei.

„Dar, indiferent de ceea ce facem, gestionarea acestor riscuri este, în cele din urmă, mai importantă decât orice companie individuală și are o amploare care privește întreaga industrie și lumea întreagă.”

Clement Delangue, de la Hugging Face, a declarat: „Comunitatea globală are nevoie de standarde mai puternice pentru monitorizare și dezvăluirea incidentelor”.

Toți cei trei directori își desfășoară activitatea în Statele Unite și sunt implicați direct în dezvoltarea tehnologiilor de inteligență artificială.

Hugging Face este o platformă destinată dezvoltatorilor de IA și a ajuns mai recent în centrul atenției după ce a recunoscut că a fost atacată de agenți de inteligență artificială, cunoscuți și ca boți IA care funcționează într-o anumită măsură autonom. Aceștia proveneau din cadrul OpenAI.

Ulterior, Hugging Face a fost achiziționată de producătorul de cipuri pentru inteligență artificială Nvidia.

Atacul asupra Hugging Face a fost considerat un „semnal de alarmă” în industrie, evidențiind modul în care a avansat tehnologia IA și posibilitatea ca aceasta să acționeze, cel puțin ipotetic, în moduri care ar putea afecta umanitatea.