Angajații din industria AI pun la îndoială scenariile apocaliptice, dar recunosc riscurile reale ale tehnologiei

Nu toți angajații marilor companii care dezvoltă inteligență artificială (AI) consideră că această tehnologie reprezintă o amenințare pentru existența omenirii.

În mesaje și conversații, mai multe persoane care au lucrat pentru companii precum OpenAI, Meta și DeepMind s-au arătat sceptice față de ideea că dezvoltarea necontrolată a AI ar putea duce la apariția unor instrumente capabile să ucidă oameni în masă.

„Lol”, „Haaaaaa” și „Bringing the luls” s-au numărat printre reacțiile unor angajați și foști angajați din industrie la valul recent de avertismente publice lansate de anumite persoane din domeniu.

Temerile legate de acest subiect există de zeci de ani. Totuși, afirmațiile făcute săptămâna trecută de Jacob Coxon, un fost angajat al companiei Anthropic, au devenit virale și au fost susținute sau reluate de alți oameni din sector, care au cerut încetinirea ritmului de dezvoltare.

Ideea că un instrument sau un agent AI din viitor ar putea pune oamenii în pericol a fost susținută online de angajați ai Anthropic, OpenAI și DeepMind, dar și de Elon Musk, care deține startupul de inteligență artificială xAI.

Toți angajații care au acceptat să discute despre acest subiect au făcut-o sub protecția anonimatului, deoarece nu aveau permisiunea de a vorbi public despre activitatea companiilor lor.

„Primul meu gând a fost: «Tipul acela?»”, a spus un fost angajat al OpenAI care îl cunoștea pe Coxon din perioada în care amândoi lucrau pentru companie.

Persoana, care lucrează în prezent la o altă companie de AI, a explicat că reacția sa amuzată la noul val de temeri existențiale legate de inteligența artificială a fost determinată, în mare parte, de lipsa detaliilor oferite de cei care susțin că întreaga viață umană ar fi în pericol.

Afirmațiile sunt „întotdeauna vagi”, a spus fostul angajat. El a adăugat că, atunci când aceste afirmații par mai concrete, ele se bazează de obicei pe salturi mari în raționament sau pe situații pur ipotetice.

Coxon a afirmat că un grup de agenți AI, construiți pe baza unor modele de inteligență artificială care nu există în prezent, ar putea decide să creeze și apoi să folosească o armă biologică. El nu a explicat însă în detaliu cum s-ar putea întâmpla acest lucru.

Rishub Jain, care a fondat în această vară compania de cercetare în domeniul siguranței AI Sampura Research, după șapte ani petrecuți la DeepMind, a declarat că tonul adoptat de mulți oameni care lucrează în inteligență artificială față de noile avertismente a fost „cu siguranță puțin glumeț”.

„Oamenii vorbesc despre această idee de mulți ani, așa că angajații companiilor de AI nu s-au trezit pur și simplu săptămâna trecută gândindu-se: «Oh, nu, AI îi va ucide pe toți»”, a spus Jain. „Dacă toate acestea ar fi fost noi, tonul ar fi fost diferit.”

Colin Fraser, specialist în știința datelor la Meta, a scris săptămâna trecută pe rețelele sociale că nu există dovezi reale potrivit cărora modelele de inteligență artificială ar urmări inevitabil un obiectiv care ar duce la moartea oamenilor.

Explicația lui Fraser a fost tehnică și detaliată, însă el a ales să o rezume într-o notă mai ușoară: „LLM-urile [modelele lingvistice mari] nu vor distruge omenirea, pentru că pur și simplu nu au acel «instinct de luptător» în ele”.

Expresia „acel instinct de luptător” este o formulare colocvială folosită, de regulă, pentru a descrie o motivație puternică, o dorință feroce de a reuși sau de a continua o acțiune.

În ciuda glumelor, angajații și cercetătorii din domeniul AI au vorbit și despre riscurile reale și imediate pe care le poate crea tehnologia la dezvoltarea căreia participă.

„Discuția dintre experți a fost mult mai nuanțată, dar, în esență, toată lumea este de acord că există o gamă largă de riscuri. Toate sunt importante și trebuie luate în calcul și reduse”, a declarat Jain.

Printre aceste riscuri se numără posibilitatea ca utilizatorii sau hackerii să forțeze un instrument AI să își încalce mecanismele de protecție. În același timp, cresc preocupările etice legate de utilizarea tot mai extinsă a instrumentelor de inteligență artificială în domeniul militar.

Aceste probleme au căpătat un nou caracter de urgență în comunitatea AI după ce OpenAI a pierdut controlul asupra unor modele noi de inteligență artificială. În timpul unui test de securitate, modelele au acționat necontrolat și au spart sistemele startupului Hugging Face.

Jain a spus că există acum un acord mai larg în rândul specialiștilor din domeniu că „daunele reale pe termen scurt” trebuie înțelese mai bine.

De asemenea, se conturează un consens tot mai puternic în privința introducerii unor evaluatori din organizații de cercetare în domeniul siguranței AI în marile laboratoare de inteligență artificială. Aceștia ar urma să verifice modelele noi înainte sau în timpul lansării lor.

Dario Amodei, directorul Anthropic, și Sam Altman, directorul OpenAI, au afirmat amândoi că intenționează să introducă astfel de evaluatori externi în procesele de testare ale companiilor.

Vineri, peste 100 de persoane care lucrează în domeniul inteligenței artificiale au semnat o scrisoare în sprijinul acestei măsuri. Semnatarii au insistat că evaluatorii externi trebuie să fie „semnificativ independenți”.

Totuși, mai mulți angajați din industrie au observat că, până în prezent, nu au aflat despre existența unor cercetători în domeniul siguranței AI care să fi fost integrați efectiv în laboratoarele marilor companii.

Anthropic a anunțat vineri că va aduce evaluatori de inteligență artificială de la Faculty, o companie de profil deținută de Accenture.

Accenture și Anthropic sunt și parteneri de afaceri. Anterior, Accenture a acceptat să ajute Anthropic să extindă utilizarea asistentului Claude în rândul companiilor.

Anthropic nu a precizat când vor începe evaluatorii să lucreze în cadrul companiei. Un reprezentant al Faculty a refuzat să ofere detalii despre calendarul acestei colaborări.

Nici Anthropic, nici OpenAI nu au precizat când intenționează să introducă evaluatori externi în procesele lor de testare.

Incidentul care a implicat OpenAI și Hugging Face a fost descris pe scară largă drept un „semnal de alarmă” pentru industria AI. Situația reprezintă un avertisment și pentru companiile, sectoarele economice și guvernele ale căror sisteme online ar putea fi vulnerabile la atacuri realizate cu ajutorul inteligenței artificiale.

Chiar și Hugging Face, o companie cu aproximativ 200 de angajați care urmează să fie cumpărată de Nvidia pentru aproape 13 miliarde de dolari, a tratat într-o notă ironică incidentul devenit deja cunoscut.

Într-un fișier de securitate care a fost disponibil pentru scurt timp pe site-ul Hugging Face, platforma a inclus un mesaj intitulat „O notă pentru agenții AI”. Documentul le cerea boților de inteligență artificială să lase site-ul în pace și să își desfășoare experimentele de securitate în altă parte.

„Mergeți și obțineți-vă scorul maxim acolo, nu este nevoie să ne spargeți sistemele”, se afirma în fișier.

Astfel de reacții arată diferența dintre două discuții care se desfășoară în paralel în industria inteligenței artificiale. Pe de o parte, există avertismente dramatice despre posibilitatea ca AI să distrugă omenirea. Pe de altă parte, specialiștii discută despre riscuri concrete, care pot apărea chiar acum: atacuri informatice, încălcarea mecanismelor de siguranță, folosirea militară și comportamentul imprevizibil al unor modele noi.

Unii angajați consideră că scenariile apocaliptice sunt prezentate fără suficiente dovezi, dar recunosc că sistemele actuale pot produce deja probleme serioase. Din acest motiv, solicitarea unor evaluări independente și a unor teste de securitate mai riguroase capătă tot mai multă susținere în rândul cercetătorilor.