Anthropic angajează expert în arme chimice pentru a preveni utilizarea catastrofală a inteligenței artificiale

Compania americană de inteligență artificială (AI) Anthropic caută să angajeze un expert în arme chimice și explozibili de mare putere, pentru a preveni „utilizarea catastrofală” a software-ului său.

Pe scurt, firma se teme că instrumentele sale de AI ar putea explica cuiva cum să producă arme chimice sau radioactive. De aceea urmărește ca, prin acest specialist, să se asigure că mecanismele de protecție sunt suficient de solide și eficiente.

În anunțul de recrutare publicat pe LinkedIn, compania precizează că viitorii candidați trebuie să aibă minimum cinci ani de experiență în „apărare împotriva armelor chimice și/sau explozibililor”, precum și cunoștințe despre „dispozitive de dispersie radiologică” – cunoscute și sub numele de bombe murdare.

Reprezentanții firmei au declarat că rolul este similar cu alte posturi deja create în domenii sensibile. Anthropic nu este însă singura companie de AI care adoptă această strategie; tendința se extinde în cadrul industriei.

O poziție asemănătoare a fost anunțată și de dezvoltatorul ChatGPT, OpenAI. Pe pagina sa de cariere este listat un post de cercetător în „riscuri biologice și chimice”, cu un salariu de până la 455.000 de dolari (335.000 de lire sterline), aproape dublu față de oferta făcută de Anthropic.

Unii experți sunt însă alarmați de riscurile unei asemenea abordări și atrag atenția că, procedând astfel, sistemelor de AI li se oferă informații detaliate despre arme – chiar dacă li se spune să nu le folosească în acest scop.

„Is it ever safe to use AI systems to handle sensitive chemicals and explosives information, including dirty bombs and other radiological weapons?” a întrebat dr. Stephanie Hare, cercetătoare în tehnologie și co-prezentatoare a emisiunii TV „AI Decoded”.

„There is no international treaty or other regulation for this type of work and the use of AI with these types of weapons. All of this is happening out of sight.”

Industria AI avertizează constant asupra potențialelor amenințări existențiale generate de această tehnologie. Totuși, până acum nu au existat demersuri reale pentru încetinirea ritmului său de dezvoltare sau pentru o reglementare clară.

Subiectul devine și mai urgent pe fondul apelurilor adresate companiilor de AI de către autoritățile americane, în contextul declanșării războiului din Iran și al operațiunilor militare din Venezuela.

Anthropic a inițiat o acțiune în instanță împotriva Departamentului american al Apărării, după ce instituția a desemnat compania drept risc pentru lanțul de aprovizionare, ca urmare a insistenței firmei ca sistemele sale să nu fie utilizate nici în arme complet autonome, nici în supravegherea în masă a cetățenilor americani.

Co-fondatorul Anthropic, Dario Amodei, a scris în februarie că nu consideră tehnologia suficient de matură și că aceasta nu ar trebui folosită în astfel de scopuri militare sau de supraveghere.

Administrația prezidențială americană a transmis că armata Statelor Unite nu va fi condusă sau condiționată de companiile tehnologice.

Eticheta de risc plasează compania americană într-o situație similară cu cea a firmei chineze de telecomunicații Huawei, care a fost la rândul ei inclusă pe liste negre, însă pe baza unor îngrijorări de altă natură privind securitatea națională.

OpenAI a declarat că este de acord cu poziția Anthropic, însă și-a negociat propriul contract cu guvernul SUA, despre care afirmă că încă nu a intrat în vigoare.

Asistentul AI al Anthropic, numit Claude, nu a fost încă retras. El este în continuare integrat în sisteme furnizate de Palantir și e folosit de Statele Unite în războiul dintre SUA și Israel, pe de o parte, și Iran, precum și în alte operațiuni legate de acest conflict.