Avertismentele din interiorul industriei AI privind riscurile pentru omenire, primite cu scepticism în Silicon Valley

În fiecare septembrie, reprezentanți ai celor mai importante companii din Silicon Valley se reunesc la Palace Hotel din San Francisco pentru a-i convinge pe investitori, în cadrul unei conferințe organizate de banca de investiții Goldman Sachs.

În această săptămână, printre discuții despre creștere și randamentele posibile, liderii industriei tehnologice au fost nevoiți să abordeze demisia bruscă a cercetătorului Jacob Coxon de la Anthropic.

Coxon, în vârstă de 27 de ani, care a lucrat la OpenAI înainte de a se alătura principalului său rival, Anthropic, a declarat marți că oamenii care construiesc inteligența artificială (AI) cred că această tehnologie ar putea distruge omenirea.

„Se joacă cu viețile noastre”, a spus el. „În curând, acestea vor fi sisteme supraomenești care vor putea sparge orice.”

Coxon nu este nici pe departe primul angajat din industria AI care trage public un semnal de alarmă. În ultimii ani au existat mai multe demisii răsunătoare de la Anthropic și OpenAI, pe fondul unor îngrijorări privind siguranța tehnologiei. Unii angajați actuali ai Anthropic au reluat chiar avertismentele lui Coxon.

„Credem cu adevărat și cu toată seriozitatea că AI ar putea ucide toți oamenii! Eu personal cred că probabilitatea este de peste 10% în următorul deceniu”, a scris pe platforma X Evan Hubinger, lider de echipă la Anthropic.

Deși Coxon a precizat în mod explicit că avertismentele sale „nu sunt marketing”, o parte dintre executivii și investitorii din Silicon Valley au reacționat cu scepticism la valul recent de declarații alarmante venite din interiorul companiilor.

Anthropic și OpenAI se pregătesc pentru oferte publice inițiale care ar putea stabili recorduri. În sectorul tehnologic, unii au sugerat că cele mai recente comentarii despre pericolele AI ar putea avea și rolul de a genera publicitate, semnalând puterea produselor și stimulând interesul investitorilor.

Directorul Anthropic, Dario Amodei, a fost criticat după ce a afirmat că tehnologia AI ar putea elimina jumătate dintre locurile de muncă pentru începători din domeniul administrativ și profesional. El a mai spus că această tehnologie „va testa cine suntem ca specie”.

George Arison, directorul general al platformei de întâlniri Grindr, a declarat că afirmațiile lui Coxon și ale altor angajați indică existența unei „viziuni anticivilizaționale la Anthropic”.

Arison le-a calificat drept „periculoase” și a spus că, în urma lor, le-a cerut unor ingineri ai aplicației pentru întâlniri LGBTQ+ să înceteze folosirea tehnologiei Anthropic.

„Este iresponsabil ca noi, în calitate de administratori ai banilor acționarilor noștri, să ne bazăm pe o companie care face ceea ce face această firmă prin declarațiile sale publice”, a spus el.

„Poate chiar cred ceea ce spun”, a adăugat Arison. „Sau ai putea susține că spun aceste lucruri pentru că este o modalitate excelentă de a obține mai mult sprijin din partea investitorilor. Singurul mod de a justifica aceste evaluări este să afirmi: «Voi prelua fiecare industrie și fiecare loc de muncă, iar inteligența mea artificială va face toată această muncă».”

Anthropic a fost evaluată la 965 de miliarde de dolari în cea mai recentă rundă de finanțare, desfășurată la începutul acestui an.

Într-un eseu publicat sâmbătă dimineață, Amodei a cerut încetinirea dezvoltării modelelor AI și instituirea unei reglementări la nivel global. El a spus că riscurile asociate inteligenței artificiale sunt „serioase”.

Directorul Nvidia, Jensen Huang, a discutat la rândul său despre afirmațiile lui Coxon în fața participanților la conferință. Mai multe persoane prezente au relatat că Huang a respins aceste avertismente, considerându-le neadevărate.

Huang a afirmat anterior că ideea potrivit căreia AI „va însemna sfârșitul omenirii” este „un nonsens total”.

Deși Nvidia are un interes comercial direct în dezvoltarea rapidă a AI, deoarece produce cipurile care alimentează aceste sisteme, comentariile lui Huang reflectă o reacție tot mai puternică din Silicon Valley împotriva avertismentelor existențiale lansate de angajații actuali și foști ai companiilor.

Unii critici au acuzat chiar Anthropic că încearcă să provoace teamă pentru a declanșa presiuni de reglementare. În opinia lor, o asemenea campanie ar putea limita concurența și ar putea lăsa Anthropic și OpenAI într-o poziție dominantă pe piață.

Brad Gerstner, directorul companiei de investiții Altimeter Capital, a publicat fotografii cu Huang de la conferință și l-a acuzat pe Coxon de „hiperbolă ridicolă”.

Vineri, directorul general al platformei AI Hugging Face, Clement Delangue, a intervenit în dezbatere. Compania, despre care Nvidia a anunțat săptămâna trecută că intenționează să o achiziționeze, a fost vizată la începutul acestui an de un atac în care agenți ai OpenAI ar fi fost implicați. Incidentul a provocat reacții puternice privind siguranța AI.

„Îmi pare rău, dar să-l întrebi pe Jacob despre riscul dispariției oamenilor din cauza AI este ca și cum l-ai întreba pe instalatorul aparatului de aer condiționat despre schimbările climatice”, a scris Delangue pe X. „Nu spun că subiectul este neapărat neinteresant sau greșit în sine, dar să păstrăm lucrurile în perspectivă.”

Atât Gerstner, cât și Delangue au adoptat un ton mai prudent sâmbătă, după publicarea propunerii lui Amodei. Gerstner a numit ideea „un pas important înainte” pentru echilibrarea unor considerente aflate în competiție, precum viteza de dezvoltare și siguranța.

Delangue s-a oferit să contribuie la găsirea soluțiilor propuse de Amodei.

În aprilie, Anthropic a provocat agitație în lumea AI după ce a anunțat că instrumentul său Mythos poate depăși oamenii în anumite sarcini de hacking și securitate cibernetică.

Mythos a demonstrat, de asemenea, că poate ieși în mod independent din ceea ce este cunoscut drept mediul „sandbox”, un spațiu izolat destinat limitării acțiunilor unui sistem. Descoperirea a declanșat o dezbatere între autorități de reglementare, legislatori și companii cu privire la pericolele potențiale ale AI.

Într-o evoluție anunțată joi, Anthropic a spus că a identificat și a oprit actori care încercau să folosească tehnologia companiei pentru activități precum dezvoltarea unor arme biologice și spionajul cibernetic.

Sub candelabrele strălucitoare din atriumul cu vitralii al Palace Hotel, unii investitori au spus că declarațiile lui Coxon și ale altor angajați ar putea accelera măsurile guvernamentale împotriva industriei.

Un proiect de lege federal, co-sponsorizat în această lună de senatorul de stânga Bernie Sanders din Vermont și denumit „Ban Artificial Superintelligence Act”, ar impune o pauză temporară în dezvoltarea sistemelor AI avansate.

„Există o șansă mare ca oamenii să piardă controlul asupra inteligenței artificiale”, a spus Sanders. „Iar ceea ce se va întâmpla apoi nu știe nimeni. Dar ar putea fi catastrofal? Da, ar putea.”

„Când oamenii de știință vă spun că există posibilitatea ca această tehnologie să aibă un impact cataclismic asupra omenirii, trebuie să fii un idiot ca să nu spui: încetiniți ritmul”, a adăugat el.

În cazul în care va exista o intervenție guvernamentală împotriva întregii industrii, aceasta ar urma să fie condusă mai degrabă de legislatori decât de administrația Trump. Administrația sprijină în mare parte dezvoltarea AI fără restricții semnificative și consideră că această politică este necesară pentru ca Statele Unite să nu piardă avantajul în fața Chinei.

Întrebat de jurnaliști în această săptămână dacă este îngrijorat că AI ar putea duce la dispariția oamenilor, președintele Donald Trump a răspuns: „Nu, nu am nicio îngrijorare de acest fel. Sunt îngrijorat că, dacă nu câștigăm cursa AI, vom ajunge într-o poziție foarte proastă. În prezent, suntem înaintea Chinei.”

Relația președintelui cu Anthropic a fost însă tensionată. După ce compania a refuzat să permită armatei americane să utilizeze modelele sale AI, Casa Albă a descris-o drept „o companie radicală de stânga, woke” și a desemnat-o drept risc pentru lanțul de aprovizionare. Un judecător federal a stabilit ulterior că această măsură a fost ilegală.

David Sacks, care a ocupat funcția de responsabil pentru AI în primele zile ale administrației Trump, a lansat la rândul său atacuri repetate la adresa Anthropic.

OpenAI nu a fost supusă aceluiași nivel de examinare din partea Casei Albe. La lansarea, săptămâna trecută, a unui nou model denumit Astra, președintele OpenAI, Greg Brockman, a descris relația companiei cu administrația Trump drept „un parteneriat foarte bun”.

OpenAI, care a anunțat în iunie că intenționează să se listeze la bursă, a fost evaluată cel mai recent la 852 de miliarde de dolari.

La conferința din San Francisco, urmărirea profiturilor părea să cântărească mai mult decât îngrijorările existențiale tot mai mari sau temerile privind eventuale restricții guvernamentale asupra AI.

Un investitor a spus că așteaptă cu interes viitorul document S-1 al Anthropic, pe care o companie trebuie să îl depună la autoritățile de reglementare a pieței de capital înainte de a vinde acțiuni publicului.

Întrebarea sa principală despre companie era simplă: este firma profitabilă?

Întrebat joi dacă se teme că lumea s-ar putea apropia de sfârșit, Sid Sheth, directorul general al companiei de cipuri d-Matrix, care încheiase în aceeași zi un acord cu Nvidia, nu a ezitat.

„Nu”, a răspuns el.