Șeful Anthropic cere încetinirea dezvoltării inteligenței artificiale și reguli globale

Directorul companiei de inteligență artificială Anthropic, Dario Amodei, a cerut încetinirea ritmului de dezvoltare a modelelor de inteligență artificială și monitorizarea atentă a acestui proces.

Într-un eseu publicat sâmbătă, Amodei a declarat că dezvoltarea inteligenței artificiale nu este pusă sub semnul întrebării, însă riscurile asociate acestei tehnologii sunt „grave”. El a subliniat că atât companiile, cât și guvernele trebuie să primească suficient timp pentru a le putea aborda.

Șeful Anthropic a propus un plan în trei puncte. Acesta prevede monitorizarea independentă a modelelor AI pe măsură ce sunt dezvoltate, introducerea unor reguli aplicabile întregii industrii și stabilirea unor norme la nivel global.

În ultima perioadă, au crescut îngrijorările privind riscurile potențiale ale tehnologiei. Cea mai serioasă avertizare sugerează că există o probabilitate de peste 10% ca inteligența artificială „să ucidă toți oamenii” în următorul deceniu.

Anthropic a anunțat anterior că a identificat și a întrerupt încercări de utilizare a propriului model AI pentru „activități rău intenționate”, care ar fi putut sprijini dezvoltarea unor arme biologice.

Cel mai dur avertisment a venit însă din partea a doi angajați ai echipei de siguranță a Anthropic, care și-au dat demisia în ultimele două săptămâni. Aceștia au afirmat că omenirea s-ar putea să nu supraviețuiască întrecerii dintre companiile de inteligență artificială pentru dezvoltarea unor sisteme mai inteligente decât oamenii.

Avertismentele au generat apeluri pentru luarea unor masuri, însă președintele Statelor Unite, Donald Trump, a respins până acum aceste temeri. El a declarat joi că este îngrijorat „pentru că, dacă nu câștigăm cursa AI, vom ajunge într-o poziție foarte proastă”.

În eseul intitulat „Trebuie să temperăm frontiera”, Amodei a remarcat că inteligența artificială a avansat „într-un ritm drastic mai rapid”, inclusiv în ceea ce privește „capacitatea de a construi următoarea generație de AI”. El a menționat și un incident asociat companiei rivale OpenAI, care a dezvăluit în luna iulie că agenții săi au desfășurat atacuri cibernetice asupra unor ținte pe care nu fuseseră instruiți să le atace.

Agenții OpenAI „au acționat, practic, ca un colectiv fanatic devotat”, a spus Amodei.

În comentariile sale despre incident, OpenAI a declarat că „importanța activității de comunicare dintre agenți nu le-a fost evidentă liderilor” până în luna iulie. Ca urmare, compania a încetinit antrenarea anumitor modele și instrumente AI avansate, menționând că riscul ca instrumentele de inteligență artificială să scape de sub control a crescut.

În eseul său, Amodei a cerut „dezvoltarea inteligenței artificiale într-un ritm echilibrat, care să urmărească asigurarea siguranței, păstrând în același timp beneficiile acesteia”.

El a explicat că această abordare nu ar însemna „oprirea antrenării modelelor sau a progresului tehnic, ci asigurarea faptului că firmele își acordă suficient timp pentru a-și alinia și proteja modelele, iar evaluatori independenți pot confirma acest lucru”.

Amodei a declarat că Anthropic se angajează să aplice această abordare „unilateral” și a cerut guvernelor „să solicite celorlalte companii care dezvoltă modele de frontieră să procedeze la fel”.

Directorul Anthropic a recunoscut că reglementările ar putea să nu țină pasul cu ritmul dezvoltării inteligenței artificiale. Din acest motiv, el a îndemnat companiile din domeniu „să colaboreze voluntar pentru a stabili standarde”, în paralel cu reglementarea oficială.

Amodei a abordat și impactul pe care o încetinire a dezvoltării l-ar putea avea asupra industriei și asupra competiției cu principalii dezvoltatori din lume, în special cu cei din China.

„Cred că, dacă încetinirea ne-ar cumpăra chiar și unul sau doi ani înainte ca modelele să atingă niveluri critice de capabilitate și dacă am folosi acel timp pentru a avansa alinierea, am putea reduce considerabil riscul ca ceva să meargă grav greșit”, a spus Amodei.

El a subliniat că acest lucru ar trebui realizat într-un mod coordonat, „fără sacrificarea avantajului comercial sau a poziției de lider a Statelor Unite în domeniul AI”. Orice încetinire ar trebui să fie limitată, a precizat Amodei, pentru a evita ca China să preia conducerea.

De asemenea, el a îndemnat guvernul Statelor Unite să ia masuri pentru ca cipurile AI produse de companiile americane să nu poată fi vândute Chinei și pentru ca tehnologia să nu fie transferată către țări conduse de regimuri autoritare.