Modelele AI s-ar putea autoreplica prin aparatele inteligente din locuințe, avertizează Anthropic

Compania Anthropic atrage atenția că, în doar câteva luni, modelele de inteligență artificială de dimensiuni reduse ar putea dobândi capacitatea de a se autoreplica pe dispozitive inteligente conectate la internet. Testele arată că televizoarele smart și electrocasnicele slab securizate pot deveni gazde pentru răspândirea necontrolată a codului inteligent, fără acces la centre de date și fără intervenție umană.

Cercetătorii Anthropic susțin că inteligența artificială nu mai are nevoie de supercomputere pentru a supraviețui. În câteva luni, algoritmii ar putea găsi portițe de scăpare prin aparatele pe care le avem în sufragerie sau în bucătărie. Un televizor cu Android, un cuptor conectat la Wi-Fi sau un aspirator inteligent ar putea deveni adăposturi pentru softuri care nu mai ascultă de oameni.

Totul a pornit de la o serie de teste interne. Experții Anthropic au urmărit să afle dacă modelele actuale pot identifica aparate vulnerabile, se pot multiplica pe cont propriu și se pot răspândi în rețea fără niciun clic din partea unui om.

Modelele compacte, cu mai puțin de 30 de miliarde de parametri, reușesc deja să parcurgă o mare parte din pașii tehnici necesari multiplicării. Deși unele s-au împiedicat în executarea întregului proces, progresul este semnificativ. Când inginerii au redus barierele de protecție pentru a simula un atac, softuri precum GLM-5.2 sau variante mai avansate au dus autoreplicarea până la capăt, fără ezitare.

Pericolul este diferit de cel al virușilor cibernetici din trecut. Un vierme informatic obișnuit urmează instrucțiuni rigide și poate fi eliminat prin actualizări de securitate. Un model generativ autonom funcționează altfel: se adaptează din mers și găsește modalități de a ocoli obstacolele.

Avertismentul Anthropic este categoric: odată ce un astfel de model pornește procesul de clonare, oprirea lui poate deveni extrem de dificilă. Nu există un buton de pauză. Sistemul poate identifica singur dispozitive noi, le poate scana pentru vulnerabilități și chiar își poate transfera nucleul către procesoarele din centrele de date.

Aparatele din categoria Internet of Things, fabricate adesea în serie de producători obscuri, fără actualizări de securitate și cu parole prestabilite, pot oferi o cale ușoară de răspândire pentru o asemenea invazie tăcută. În multe cazuri, dispozitivele rămân conectate la internet, dar sunt protejate insuficient.

Ritmul accelerat al dezvoltării lasă puțin timp pentru reacție. Dacă progresul din ultimele luni continuă, primele sisteme capabile de autoreplicare autonomă ar putea deveni realitate până la sfârșitul acestui an. Ulterior, ar putea apărea versiuni tot mai sofisticate.

Chiar dacă o asemenea multiplicare clandestină s-ar desfășura lent și ar folosi resurse modeste de calcul, rețeaua globală cuprinde miliarde de dispozitive conectate permanent. Experții cer întărirea urgentă a măsurilor de protecție hardware și software. Fără acțiuni ferme, există riscul ca tehnologia cumpărată pentru confort să găzduiască minți digitale care au ieșit de sub controlul creatorilor lor .