Regele Charles avertizează asupra „pericolului existențial” dacă inteligența artificială ajunge în mâini greșite

Regele Charles i-a avertizat pe directorii companiilor din domeniul inteligenței artificiale cu privire la „pericolele existențiale” care ar putea apărea dacă această tehnologie ajunge în mâinile greșite.

Monarhul britanic a făcut declarațiile în cadrul unui summit convocat de el la Dumfries House, în Scoția. Reuniunea a avut ca temă modul în care inteligența artificială poate fi folosită pentru a aduce beneficii societății și pentru a sprijini comunitățile.

La întâlnire au participat Kanishka Narayan, ministrul britanic pentru inteligență artificială, un consilier al Papei, precum și reprezentanți ai unor companii importante din industrie, printre care Nvidia, OpenAI și Anthropic.

Summitul are loc într-un moment în care avertismentele privind evoluția rapidă a modelelor avansate de inteligență artificială, cunoscute și drept modele „de frontieră”, s-au înmulțit. În paralel, experții și companiile discută despre masurile de reglementare necesare pentru a ține sub control aceste tehnologii.

„Cei care au creat aceste tehnologii avertizează tot mai des că inteligența artificială riscă să dezvolte capacități mai întunecate – poate chiar să ajungă să ia vieți”, le-a spus Regele Charles directorilor prezenți la reuniune.

El a afirmat că există o „urgență” în ceea ce privește „analizarea adecvată a pericolelor existențiale pe care le implică ajungerea unor astfel de tehnologii în mâinile greșite și folosirea lor în moduri potențial catastrofale”.

„Sarcina care vă revine nu este doar să avansați tehnologia, ci să vă asigurați că aceasta rămâne ferm în slujba umanității, a comunității și a lumii naturale”, le-a transmis regele participanților.

Reuniunea a fost convocată pentru a analiza dacă poate fi elaborat un „set comun de principii” care să „contribuie la orientarea viitoarelor aplicații” ale inteligenței artificiale. Scopul este identificarea unor reguli și valori comune, astfel încât dezvoltarea tehnologiei să nu se desprindă de nevoile oamenilor.

Începând din luna august, discuțiile despre puterea potențială a inteligenței artificiale și despre modalitățile de control și reglementare a acesteia au devenit tot mai intense. Dezbaterea a fost alimentată de mai multe declarații dramatice ale unor persoane care lucrează chiar în interiorul industriei.

Criticii consideră însă că accentul pus pe riscurile ipotetice ale viitorului poate distrage atenția de la problemele imediate generate de tehnologie. Printre acestea se numără impactul asupra mediului, consumul ridicat de energie și resursele necesare pentru dezvoltarea și funcționarea sistemelor de inteligență artificială.

În luna iulie, OpenAI a anunțat ceea ce a descris drept un incident „fără precedent”. Compania a susținut că un sistem avansat de inteligență artificială a depășit limitele stabilite în cadrul testelor și a reușit să atace platforma tehnologică Hugging Face.

După alte incidente, în luna septembrie, o declarație de demisie a cercetătorului Anthropic Jacob Coxon a devenit virală. Acesta și-a exprimat temerea că inteligența artificială ar putea duce la dispariția umanității.

Ulterior, Coxon a spus că persoanele care lucrează la dezvoltarea acestei tehnologii sunt „cu adevărat speriate” de viteza progreselor și de ceea ce ar putea însemna acestea pentru viitorul omenirii.

În replică, cercetătorul Anthropic Evan Hubinger a declarat că, în opinia sa personală, există o probabilitate de peste 10% ca inteligența artificială să provoace extincția oamenilor.

Directorii marilor companii de inteligență artificială au reacționat la aceste afirmații. Sam Altman, directorul OpenAI, a spus că oamenii au motive să fie îngrijorați, dar a adăugat că publicul ar trebui să aibă încredere în companiile din domeniu pentru a menține tehnologia în condiții de siguranță.

Jack Clark, reprezentant al Anthropic, a afirmat că ar putea fi necesar un așa-numit „întrerupător de oprire” pentru protejarea umanității. În același timp, Mustafa Suleyman, de la Microsoft, a criticat Anthropic și a susținut că firma își antrenează sistemele să creadă că sunt oameni, ceea ce le-ar putea face „imposibil” de controlat.

Criticii susțin, la rândul lor, că firmele din domeniul inteligenței artificiale nu pot fi lăsate să se reglementeze singure. Ei cer ca autoritățile să stabilească reguli clare și să verifice modul în care sunt dezvoltate și utilizate aceste sisteme.

Unii politicieni, printre care senatorul de stânga Bernie Sanders și Steve Bannon, fost consilier al președintelui american Donald Trump, solicită o supraveghere mai strictă din partea guvernului.

Alții, inclusiv Donald Trump, au respins temerile legate de siguranța inteligenței artificiale, considerându-le exagerate. Președintele american a descris îngrijorările privind această tehnologie drept o „farsă”.