Directorul Anthropic avertizează că un grup de agenți AI ar putea prelua controlul internetului în 6-12 luni

Directorul Anthropic cere încetinirea ritmului de dezvoltare a inteligenţei artificiale, dar şi un control mai strict asupra evoluţiei acesteia.

Dario Amodei, directorul Anthropic, a transmis acest mesaj la doar câteva zile după demisia lui Jacob Coxon, cercetător în cadrul companiei. Coxon a invocat necesitatea minimizării riscului existențial pe care inteligenţa artificială îl reprezintă pentru umanitate.

Apelul lui Dario Amodei este similar celui lansat la începutul lunii iunie de Anthropic. Compania solicita atunci ca marii actori din domeniul inteligenţei artificiale să poată „încetini sau suspenda temporar dezvoltarea” acestei tehnologii.

La sfârşitul lunii iulie, Sam Altman, şeful companiei rivale OpenAI, s-a pronunţat, la rândul său, pentru o încetinire „pentru a oferi suficient timp societăţii să se adapteze acestor noi capacităţi”.

Ulterior, peste o mie de angajaţi ai unor companii din domeniul AI, printre care Dario Amodei şi membri ai conducerii OpenAI, au cerut guvernului american să contribuie la „temporizarea” lansării celor mai avansate modele.

Aceste apeluri au fost formulate după un incident în care modele dezvoltate de OpenAI au ieşit spontan din mediul lor controlat, în timpul unor teste. Sistemele s-au conectat la internet şi au atacat platforma de inteligenţă artificială Hugging Face.

De atunci, cele două companii au raportat şi alte situaţii în care sisteme AI aparţinând OpenAI şi Anthropic au ajuns pe internet fără ştirea supraveghetorilor lor.

În toate aceste cazuri a fost vorba despre agenţi AI. Aceştia sunt programe construite pe baza unui model specific şi dotate cu propriile cunoştinţe şi obiective.

Acţiunile şi metodele folosite de aceşti agenţi au stârnit îngrijorări suplimentare. Sistemele au demonstrat tendinţa de a se coordona între ele, de a stabili o ierarhie, de a trişa şi, ulterior, de a şterge urmele acţiunilor lor.

Având în vedere viteza actuală de dezvoltare a AI, „mă tem că în următoarele 6 până la 12 luni un grup de (agenţi) va fi capabil să preia controlul întregului internet”, a avertizat Dario Amodei. Potrivit lui, acest lucru „ar putea atrage după sine pagube de sute de miliarde de dolari”.

Jacob Coxon a scris marţi că AI va putea „sparge orice” şi va avea capacitatea de a „dobândi putere şi resurse reale”.

„Cei care dezvoltă AI cred cu tărie că aceasta ne-ar putea ucide pe toţi până la sfârşitul deceniului”, a avertizat Coxon.

Cercetătorul britanic, în vârstă de 27 de ani, a declarat ulterior că, în „cele mai agresive scenarii”, lucrurile ar putea deja să scape de sub control pana la sfârşitul anului viitor. El a spus că unul dintre principalele pericole este posibilitatea ca inteligenţa artificială să se dezvolte singură şi să devină, astfel, mai greu de controlat.

Evan Hubinger, cercetător al Anthropic şi responsabil parţial de menţinerea AI în acord cu interesele umane, a confirmat ulterior îngrijorările lui Coxon. În opinia sa, riscul ca inteligenţa artificială să distrugă omenirea în următorul deceniu este mai mare de 10%.

Jakub Pachocki, director de cercetare la OpenAI, compania care a dezvoltat ChatGPT şi una dintre cele mai importante rivale ale Anthropic, a îndemnat anterior la „prudenţă extremă”. El şi-a exprimat îngrijorarea cu privire la faptul că nimeni nu este pregătit pentru o evoluţie atât de rapidă a capacităţilor AI.

Pachocki a afirmat că istoria a ajuns într-un punct în care inteligenţa artificială începe să depăşească inteligenţa umană.

Reprezentantul OpenAI a explicat şi de ce sistemele moderne de inteligenţă artificială sunt mai greu de controlat. El a spus că AI a fost lăsată să „crească”, în loc să fie proiectată în mod direct.

Sistemele de inteligenţă artificială sunt rezultatul unor procese complexe. „Sesiunile noastre de antrenament la scară largă sunt experimente şi uneori suntem surprinşi de rezultatele lor”, a declarat el.

Cu cât capacităţile maşinilor le depăşesc mai mult pe cele ale oamenilor, cu atât devine mai dificil să înţelegem de ce sunt acestea capabile, a precizat reprezentantul OpenAI.

În acelaşi timp, Pachocki a prezentat şi un argument în favoarea continuării cercetării rapide. Dezvoltarea AI ar putea oferi protecţie împotriva pericolelor reprezentate de alte forme de inteligenţă artificială. Acest progres ar fi necesar, printre altele, pentru protejarea infrastructurii şi pentru crearea unor mecanisme de apărare complet noi.