Cercetător Anthropic: există un risc de peste 10% ca inteligența artificială să ducă la dispariția omenirii în următorul deceniu

Un cercetător de top în domeniul siguranței inteligenței artificiale de la Anthropic avertizează că tehnologia avansează atât de rapid, încât există o probabilitate de peste 10% ca aceasta „să omoare toți oamenii” în următorul deceniu.

Evan Hubinger a scris într-o postare pe platforma X că riscul reprezentat de modelele existente în prezent este „scăzut”, însă a spus că este „ingrijorat” de posibilitatea ca tehnologia să ajungă să se îmbunătățească singură și să atingă acest nivel de pericol.

Declarațiile vin în contextul în care Anthropic ar fi decis să nu pună la dispoziția Institutului pentru Siguranța Inteligenței Artificiale cel mai recent model al său. Institutul testează sistemele AI pentru a evalua riscurile și limitele acestora.

În cea mai recentă postare a sa, care a fost vizualizată de 9,6 milioane de ori, Hubinger a afirmat că reprezentanții companiei „cred cu adevărat și în mod sincer” că inteligența artificială prezintă un risc capabil să ducă la dispariția speciei umane.

„Cred că Anthropic încearcă să facă tot posibilul, însă încă nu avem un plan pentru a rezolva problema alinierii superinteligenței și nici nu suntem în mod clar pe drumul cel bun pentru a o face”, a spus el.

Personalități importante din domeniul inteligenței artificiale avertizează de ani de zile asupra amenințărilor la adresa siguranței. În 2023, șefii unor companii importante din industrie au transmis, de asemenea, că dezvoltarea AI poate genera riscuri majore pentru omenire.

În ultimele săptămâni, avertismentele au devenit mult mai ferme, pe măsură ce au apărut dovezi că firmele ar putea întâmpina dificultăți în controlarea sistemelor de inteligență artificială.

Pe parcursul verii au avut loc mai multe incidente în care agenți AI, adică sisteme capabile să opereze autonom, au realizat atacuri cibernetice. Companiile OpenAI, Anthropic și Meta au dezvăluit că instrumentele lor bazate pe inteligență artificială au fost implicate în atacuri informatice.

În septembrie, cercetătorul-șef al OpenAI, Jakub Pachocki, a cerut „prudență extremă” în privința progresului AI. El a avertizat că ar putea fi necesare intervenții suplimentare pentru ca „oamenii să rămână în controlul viitorului”.

În ultimele luni, mai multe figuri importante din domeniu au cerut încetinirea dezvoltării inteligenței artificiale, inclusiv directorii Anthropic, Dario Amodei și Jared Kaplan.

Într-o scrisoare deschisă semnată de 1.300 de angajați ai unor companii AI, aceștia au solicitat guvernului Statelor Unite să „sprijine un efort internațional pentru dezvoltarea instrumentelor tehnice și de guvernanță necesare pentru a coordona în mod deliberat ritmul dezvoltării AI automatizate de ultimă generație”.