Trump respinge temerile privind dispariția omenirii din cauza AI și vrea SUA în fruntea cursei, în timp ce Congresul cere reguli mai stricte

Donald Trump respinge temerile privind un posibil risc existențial al inteligenței artificiale, în timp ce mai mulți congresmeni americani cer reguli mai stricte pentru acest domeniu.

Președintele american Donald Trump a declarat că nu se teme că inteligența artificială (AI) ar putea duce la dispariția omenirii. El este însă îngrijorat că Statele Unite s-ar putea afla într-o situație „foarte proastă” dacă nu se poziționează în fruntea cursei pentru dezvoltarea acestui sector.

Declarațiile sale au fost făcute în contextul avertismentelor lansate de cercetători de la compania Anthropic. Aceștia susțin că evoluția rapidă a inteligenței artificiale ar putea duce la dispariția rasei umane într-un viitor nu foarte îndepărtat.

Întrebat joi de jurnaliști, pe aeroportul din Dallas, dacă se teme că inteligența artificială ar putea duce la dispariția omenirii, Donald Trump a răspuns: „Nu, nu am nicio astfel de îngrijorare”.

Liderul de la Casa Albă s-a declarat, în schimb, preocupat de posibilitatea ca Statele Unite să ajungă într-o „poziție foarte proastă” dacă nu se vor instala în fruntea cursei pentru dezvoltarea inteligenței artificiale. În opinia sa, avantajul tehnologic în acest domeniu este esențial pentru viitorul țării.

În paralel, un număr tot mai mare de parlamentari americani solicită adoptarea unor noi reglementări pentru sistemele de AI. Cererile apar după avertismentele grave formulate de doi cercetători ai companiei Anthropic, care consideră că ritmul actual de dezvoltare a acestei tehnologii ar putea avea consecințe catastrofale.

Saptamana aceasta, Jacob Coxon, cercetător la Anthropic, a anunțat că demisionează. El a afirmat că „oamenii care dezvoltă AI cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”.

Evan Hubinger, cercetător în cadrul aceleiași companii, a susținut afirmațiile lui Coxon. „Credem cu adevărat că AI ar putea ucide toți oamenii”, a scris Hubinger pe platforma X. „Personal, consider că probabilitatea este de peste 10% în următorul deceniu”.

Avertismentele au fost formulate în contextul unor incidente recente în care agenți AI au acționat necontrolat și au încercat să pirateze sisteme externe. În același timp, mai mulți cercetători specializați în siguranța inteligenței artificiale și-au anunțat demisiile, invocând riscurile asociate dezvoltării accelerate a acestei tehnologii.

Atât politicienii democrați, cât și cei republicani din Statele Unite au reacționat cu îngrijorare. Aceștia solicită măsuri concrete pentru prevenirea unor situații în care sistemele de inteligență artificială ar putea scăpa de sub control.

„Washingtonul trebuie să se trezească și să trateze această problemă cu seriozitate”, a îndemnat pe X senatorul democrat de Arizona Mark Kelly, referindu-se la riscurile tehnologiei AI.

La rândul său, senatorul republican de Texas Ted Cruz, care conduce o comisie senatorială ce supervizează Departamentul pentru Comerț al SUA, a vorbit despre necesitatea unei legislații care să reglementeze „riscurile catastrofale” asociate inteligenței artificiale. Departamentul coordonează, printre altele, activități și cercetări legate de siguranța AI.

Reprezentanta Anna Paulina Luna, republicană din Florida, i-a solicitat președintelui Camerei Reprezentanților, Mike Johnson, să convoace o „sesiune specială privind AI”. Camera Reprezentanților se află în pauză în această perioadă și urmează să-și reia activitatea săptămâna viitoare.

Un purtător de cuvânt al companiei Anthropic a precizat joi că organizația va continua să testeze riguros „modele sau capacități periculoase în domenii precum securitatea cibernetică și biologia”. Compania se pregătește, totodată, pentru o listare la bursă, iar unii investitori îi estimează valoarea la aproximativ două trilioane de dolari.

Directorul executiv al OpenAI, Sam Altman, le-a transmis angajaților, în cadrul unei reuniuni desfășurate în această săptămână, că există deschidere față de ideea de a încetini dezvoltarea sistemelor de inteligență artificială ale companiei.

Anthropic, unul dintre principalii concurenți ai OpenAI, se pregătește la rândul său pentru o ofertă publică inițială și nu a comentat reuniunea menționată. La începutul acestei săptămâni, OpenAI a anunțat că susține implementarea unor cerințe naționale obligatorii privind siguranța AI în Statele Unite.

Doi specialiști în siguranța inteligenței artificiale și-au exprimat, de asemenea, îngrijorarea cu privire la dezvoltarea rapidă a acestui sector.

Josh Engels, fost cercetător în domeniul siguranței AI la Google DeepMind, a atenționat că „nu este niciun adult în cameră”. „Oamenii fac tot ce le stă în putință, dar nu vine nimeni să ne salveze”.

Joe Benton, care a condus o echipă de cercetare privind siguranța la Anthropic, a declarat la rândul său că este îngrijorat de faptul că AI ar putea avansa „prea repede pentru a ne putea organiza la timp, dacă nu ne preocupăm de acest lucru chiar acum”.

Cei doi s-au alăturat organizației non-profit de cercetare METR. Aceasta evaluează dacă și când sistemele de inteligență artificială ar putea reprezenta o amenințare pentru societate și încearcă să stabilească metode prin care asemenea riscuri să fie măsurate înainte ca tehnologiile să fie lansate pe scară largă.

Îngrijorările legate de inteligența artificială au pus presiune pe liderul majorității din Senat, John Thune, și pe senatoarea democrată Amy Klobuchar. Cei doi elaborează un proiect de lege destinat reglementării produselor bazate pe AI.

Potrivit senatoarei democrate, legislația ar trebui să oblige companiile care dezvoltă instrumente cu inteligență artificială să „colaboreze cu experți guvernamentali pentru a verifica și testa modelele, asigurându-se astfel că AI este sigură”.

Thune a indicat, la rândul său, că proiectul de lege vizează „riscurile catastrofale” pe care le prezintă sistemele de inteligență artificială. Inițiativa ar putea impune companiilor să demonstreze că produsele lor au fost evaluate înainte de a fi puse la dispoziția publicului.

Miercuri, statul California a adoptat prima lege statală care stabilește reguli privind modul în care auditorii independenți trebuie să evalueze produsele bazate pe AI. Legea urmărește să creeze un mecanism de verificare dincolo de testările realizate de companiile care dezvoltă aceste sisteme.

Chris Lehane, un oficial al OpenAI, a afirmat că organizația va susține proiectul de lege. Declarația a fost făcută aproape în același moment în care biroul guvernatorului Californiei, Gavin Newsom, a anunțat promulgarea actului normativ.

În luna iulie, un grup bipartizan format din șase membri ai Camerei Reprezentanților a propus o lege care i-ar obliga pe dezvoltatorii celor mai puternice modele de AI să le supună unor audituri de securitate independente.

Conform proiectului de lege, auditorii ar urma să fie acreditați de Departamentul pentru Comerț al SUA. Tot acest departament ar crea o nouă funcție pentru supravegherea securității inteligenței artificiale.

Inițiatorii consideră că verificările independente sunt necesare deoarece dezvoltatorii nu ar trebui să fie singurii responsabili de evaluarea riscurilor propriilor produse. Audituri realizate de terți ar putea identifica vulnerabilități care nu sunt observate în timpul testărilor interne.

„Este important să existe un cadru pentru supravegherea acestor sisteme, inclusiv evaluări adecvate înainte de lansare și audituri independente realizate de terți”, a conchis Alicia Solow-Niederman, profesor de drept tehnologic la Universitatea George Washington.