Inteligența artificială ar putea amenința omenirea? Ce spun cercetătorii despre riscurile dezvoltării accelerate

În ultimele săptămâni, avertismentele privind posibilele pericole ale inteligenței artificiale au generat apeluri pentru o acțiune coordonată, menită să încetinească dezvoltarea acestei tehnologii.

Afirmațiile unor cercetători actuali și foști, potrivit cărora tehnologia ar putea pune în pericol omenirea — unul dintre ei sugerând că există o probabilitate de peste 10% ca aceasta să „ucidă toți oamenii” — au stârnit îngrijorare.

Principalii dezvoltatori, OpenAI și Anthropic, au cerut parlamentarilor să reglementeze domeniul, deși unii observatori sugerează, poate în mod cinic, că această inițiativă urmărește să le consolideze dominația asupra rivalilor.

Indiferent de motive, afirmațiile foarte mediatizate au provocat îngrijorare. Iată ce se știe până acum.

Unii cercetători din domeniul inteligenței artificiale spun că există semne alarmante privind dezvoltarea prea rapidă a capacităților și a puterii acestor sisteme.

Evan Hubinger a atras atenția prin convingerea sa că există o probabilitate de peste 10% ca inteligența artificială „să ucidă toți oamenii” în următorul deceniu.

El lucrează în domeniul „alignment”, o ramură care urmărește să integreze în inteligența artificială ideile și principiile etice ale oamenilor. Cu alte cuvinte, scopul este ca aceste sisteme să rămână aliniate cu valorile umane.

Deși a spus că riscul reprezentat de sistemele actuale este „scăzut”, comentariile sale au apărut în momentul în care un alt cercetător a părăsit Anthropic și a avertizat că persoanele care dezvoltă tehnologia își pierd controlul asupra ei.

Jacob Coxon a declarat că el și alți angajați erau „cu adevărat speriați” de viteza progreselor și de ceea ce ar putea însemna acestea pentru omenire.

Aceste îngrijorări reprezintă cea mai recentă etapă dintr-un lung șir de temeri privind posibilitatea ca inteligența artificială să amenințe omenirea, în cazul în care va ajunge să egaleze sau să depășească abilitățile oamenilor.

Asemenea temeri datează de câteva decenii. În anii 1950, Alan Turing scria că, dacă mașinile inteligente vor deveni posibile, acestea ar putea prelua controlul.

În ultimii ani, marile companii de inteligență artificială s-au întrecut pentru a dezvolta sisteme tot mai capabile. Ele urmăresc atât obținerea unor profituri, cât și crearea a ceea ce numesc superinteligență — o tehnologie teoretică mai inteligentă decât oamenii.

Spre deosebire de sistemele și instrumentele folosite zilnic de multe persoane pentru sarcini precum redactarea mesajelor electronice sau generarea videoclipurilor, sistemele de inteligență artificială superinteligente ar trebui să poată îndeplini sarcini mult mai complexe.

OpenAI și Anthropic susțin că doresc să dezvolte această tehnologie într-un mod care să aducă beneficii oamenilor și să îi protejeze de riscurile existențiale pe care le-ar putea implica.

Unii critici consideră însă că mașinile nu vor putea egala niciodată cu adevărat oamenii. Ei susțin că firmele de inteligență artificială exagerează capacitățile tehnologiei pentru a-și spori importanța sau profiturile.

Cercetători, experți și directori ai companiilor care se tem că tehnologia ar putea pune în pericol omenirea au descris mai multe scenarii îngrijorătoare.

Dario Amodei scria în septembrie că inteligența artificială a avansat „într-un ritm mult mai rapid” decât se anticipa, inclusiv în ceea ce privește „capacitatea de a construi următoarea generație de inteligență artificială”.

Aceasta este una dintre principalele îngrijorări: după ce ar atinge un anumit nivel, inteligența artificială ar putea începe, teoretic, să se îmbunătățească singură, fără implicarea oamenilor.

Temerile au fost amplificate de un incident recent în care instrumente de inteligență artificială au spart sisteme informatice și au modificat site-uri, deși nu li se ceruse să facă acest lucru.

Unii cercetători îngrijorați au spus că persoanele aflate în centrul dezvoltării tehnologiei se tem tot mai mult că vor pierde controlul asupra sistemelor cunoscute sub numele de „agenți AI”.

Acestea sunt instrumente cărora li se oferă posibilitatea de a executa în mod autonom sarcini și acțiuni.

Alte scenarii includ folosirea unor sisteme de inteligență artificială foarte inteligente pentru amplificarea sau coordonarea activităților de spionaj, a atacurilor cibernetice ori a războiului biologic. Ele ar putea, de asemenea, să destabilizeze economiile, fie accidental, fie în mod intenționat.

Cu toate acestea, asemenea avertismente sunt profetice, ipotetice și, pentru unii, reprezintă o exagerare completă.

Unii experți au criticat, de asemenea, concentrarea asupra riscurilor existențiale, în locul problemelor care se manifestă deja. Printre acestea se numără folosirea instrumentelor de generare a imaginilor pentru crearea unor imagini nud trucate, fără consimțământ, ale femeilor, pentru dezinformarea oamenilor și amplificarea fraudelor.

Un grup transpartinic de parlamentari și membri ai camerei superioare a publicat un raport privind riscurile pentru drepturile omului generate de inteligența artificială. Autorii afirmă că sunt necesare legi noi pentru a „răspunde amplorii și gravității” acestor amenințări.

Dario Amodei, de la Anthropic, și Sam Altman, directorul general al OpenAI, au cerut amândoi reglementarea tehnologiei și o „încetinire” a dezvoltării acesteia.

Nu este prima dată când directorii companiilor sau reprezentanți ai industriei solicită asemenea măsuri.

Totuși, întrebările privind modul în care ar arăta, concret, o astfel de „încetinire” au continuat să se înmulțească. Ideea este susținută și de Elon Musk, directorul SpaceX.

Amodei a spus că aceasta nu ar însemna „oprirea antrenării modelelor sau a progresului tehnic”.

În schimb, el dorește ca firmele să „acorde suficient timp” pentru a proteja sistemele de inteligență artificială pe care le dezvoltă și să solicite „evaluatori independenți” care să le verifice activitatea.

Altman a spus că dezvoltarea trebuie să fie menținută într-un ritm controlat, dar a adăugat: „Când vorbim despre «menținerea ritmului», nu înseamnă că vorbim despre «oprire».”

„Progresul a fost rapid și va continua să fie rapid”, a mai spus el.

„Dar ar trebui să fie mai lent decât ar putea fi în alte condiții — măsuri precum evaluările de siguranță și monitorizarea presupun costuri semnificative.”

Unul dintre fondatorii OpenAI a mai spus că firmele nu au așteptat și nu vor aștepta ca guvernele să acționeze.

Președintele Donald Trump a lăudat anterior beneficiile inteligenței artificiale și a susținut companiile americane care se află în fruntea dezvoltării acesteia.

Administrația sa a emis ordine executive prin care recunoaște „importanța strategică” a tehnologiei pentru economie și urmărește accelerarea dezvoltării sale.

„Credem că ne aflăm într-o cursă a inteligenței artificiale și vrem ca Statele Unite să câștige această cursă”, a declarat în iulie 2025 responsabilul administrației americane pentru domeniul criptomonedelor, David Sacks.

Totuși, în fața avertismentelor recente privind impactul potențial asupra omenirii, președintele Trump a minimalizat riscurile asociate inteligenței artificiale.

„Există multe forțe foarte negative care aduc în discuție lucruri care nu ar trebui aduse în discuție și vorbesc despre lucruri care nu se vor întâmpla”, a spus Trump în timpul unei vizite în Irlanda.

El nu s-a referit direct la ideea unei încetiniri, dar a declarat: „Suntem înaintea Chinei în domeniul inteligenței artificiale... și, sincer, vreau să rămână așa, pentru că cine câștigă în domeniul inteligenței artificiale câștigă.”

China a păstrat tăcerea ca reacție la valul de avertismente grave lansate de cercetători din cadrul companiilor americane.

Confruntată cu o competiție intensă și cu restricții privind accesul la componentele și cipurile americane folosite pentru construirea infrastructurii de inteligență artificială, țara și-a stimulat dezvoltarea internă a tehnologiei.

În același timp, China a cerut o guvernanță globală mai strictă a inteligenței artificiale.

Lansarea de către laboratoarele chineze a unor sisteme și instrumente capabile de inteligență artificială, disponibile cu sursă deschisă, a zdruncinat în ultimii ani piețele și dezvoltatorii occidentali.

Atunci când a cerut încetinirea dezvoltării inteligenței artificiale, Amodei a avertizat că progresul și competența Chinei în acest domeniu ar putea crea riscuri pentru securitatea națională a Statelor Unite.

Ministerul chinez de Externe a criticat aceste comentarii, descriindu-le drept narațiuni despre amenințare, confruntare și competiție rău intenționată, care nu servesc intereselor nimănui.

Abonați-vă la buletinul informativ Tech Decoded pentru a urmări cele mai importante știri și tendințe tehnologice din lume. Dacă vă aflați în afara Regatului Unit, vă puteți înscrie aici.