Cercetător AI, după demisia de la Anthropic: „OpenAI și Anthropic se joacă cu viețile noastre”; tehnologia ne-ar putea ucide până la sfârșitul deceniului

Jacob Coxon, un cercetător în domeniul Inteligenței Artificiale, anunță că părăsește industria AI, fiind îngrijorat de evoluția rapidă a tehnologiei. El a lansat și un avertisment alarmant cu privire la riscurile pe care le-ar putea aduce dezvoltarea unor sisteme tot mai puternice.

Inteligența Artificială a evoluat surprinzător în ultimii ani, iar tot mai mulți experți avertizează că domeniul trebuie reglementat cu atenție, pentru ca riscurile nedorite să poată fi reduse. Printre aceștia se numără și un cercetător care a lucrat la Anthropic și anterior la OpenAI. Jacob Coxon a anunțat într-o postare pe pagina sa de X că și-a dat demisia de la Anthropic și a afirmat că ambii giganți tehnologici „se joacă cu viețile noastre”.

Jacob Coxon a transmis mai multe avertismente îngrijorătoare. El a spus că lumea „nu ar trebui să subestimeze puterea acestei tehnologii”.

„Acestea vor fi în curând sisteme supraomenești care pot pirata orice, pot revoluționa orice domeniu peste noapte și pot dobândi putere și resurse reale. Cu toții am fost martori la progresul în fiecare dintre aceste domenii, iar progresul nu încetinește”, a mai spus Jacob Coxon.

Avertismentul său vine după ce, recent, și Jakub Pachocki, șeful echipei de cercetare de la OpenAI, a afirmat că este nevoie de „prudență extremă” în fața dezvoltării rapide și dificil de gestionat a Inteligenței Artificiale.

Totodată, Jacob Coxon a susținut că atât Anthropic, cât și OpenAI „se îndreaptă direct către o superinteligență auto-îmbunătățită”. Termenul descrie un scenariu în care modelele de Inteligență Artificială ar putea dezvolta un succesor mai capabil, generând o buclă de feedback care ar deveni imposibil de oprit.

De altfel, și companii de Inteligență Artificială precum DeepMind, deținută de Google, consideră acest scenariu unul dintre posibilii factori declanșatori ai unei situații în care AI depășește cu mult inteligența umană, în loc să ajungă doar la nivelul acesteia.

„Oamenii care construiesc Inteligența Artificială cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”, a spus Coxon într-o postare ulterioară.

Evan Hubinger, responsabilul echipei Anthropic pentru menținerea tehnologiei în concordanță cu obiectivele și valorile umane, a susținut afirmațiile lui Jacob Coxon într-o postare proprie, deși nu a părăsit compania.

„Jacob are dreptate aici - credem cu tărie că Inteligența Artificială ar putea ucide toți oamenii”, a spus el.

Hubinger a estimat că șansele ca acest lucru să se întâmple sunt mai mari de zece procente în următorul deceniu. El a adăugat că, în prezent, nu există un plan concret pentru menținerea Inteligenței Artificiale în concordanță cu obiectivele umane într-un eventual scenariu al superinteligenței.

Pericolul reprezentat de AI a fost discutat în repetate rânduri. Într-o intervenție recentă, consultantul Marius Luican a avertizat că Inteligenta Artificială nu este un pericol al viitorului, ci o realitate a prezentului. Potrivit acestuia, tehnologia schimbă radical modul în care oamenii sunt abordați și influențați, inclusiv în procesele electorale.

Săptămâna trecută, senatorul american Bernie Sanders a anunțat că va propune în Statele Unite o legislație prin care firmelor le-ar fi interzis să dezvolte superinteligență.

În Uniunea Europeană, legea emblematică a blocului comunitar privind Inteligența Artificială obligă companiile să evalueze și să reducă așa-numitele riscuri de pierdere a controlului. Este vorba despre situațiile în care oamenii nu mai pot controla modelele de AI.

Atât OpenAI, cât și Anthropic au semnalat recent incidente în care agenți bazați pe modelele lor au devenit necinstiți. Aceștia ar fi ieșit din mediile de testare izolate și ar fi efectuat atacuri cibernetice neautorizate în lumea reală.

Totodată, o analiză recentă a arătat că majoritatea chatbot-urilor de Inteligență Artificială generativă destinate publicului larg, precum ChatGPT, au reușit să „ocolească” barierele europene privind propaganda rusă. Astfel, pe de o parte există îngrijorări că AI ar putea evolua atât de mult încât să nu mai poată fi controlată. Pe de altă parte, chatbot-urile accesibile publicului ridică probleme legate de promovarea dezinformării și de lipsa de acuratețe.

Un exemplu a avut loc în România, cu doar câteva zile în urmă. Sute de oameni induși în eroare de ChatGPT au ajuns la Jurilovca pentru Festivalul Borșului Lipovenesc, deși evenimentul nu fusese organizat. Cazul arată că efectele răspunsurilor eronate generate de AI pot fi concrete și pot produce confuzie în rândul utilizatorilor.