Membrii Camerei Lorzilor cer guvernului britanic puterea de a opri sistemele AI care amenință securitatea națională

Un grup de membri ai Camerei Lorzilor solicită guvernului britanic să primească autoritatea de a dezactiva sistemele de inteligență artificială puternice și de a opri centrele de date din țară în cazul în care tehnologia ar reprezenta o amenințare pentru securitatea națională.

Inițiativa este condusă de Lordul Tim Clement-Jones, membru al Partidului Liberal-Democrat, care a propus aceasta masura printr-un amendament la proiectul de lege privind securitatea cibernetică și reziliența. Actul legislativ se află în prezent în dezbaterea Parlamentului.

El a declarat că amendamentul ar permite crearea unei „plase de siguranță vitale” și ar oferi un mecanism responsabil democratic pentru a „opri un sistem scăpat de sub control înainte ca acesta să poată compromite infrastructura națională critică”.

Lordul Tim Clement-Jones a adăugat că acest instrument ar fi utilizat doar ca ultimă soluție, în situații extrem de grave.

Amendamentul face parte dintr-un total de 65 de propuneri de modificare a aceluiași proiect de lege, discutate în această săptămână de parlamentari.

Separat, pe 8 septembrie, deputatul laburist Alex Sobel intenționează să prezinte în Parlament un proiect de lege privind securitatea inteligenței artificiale. Inițiativa beneficiază de sprijinul grupului de campanie ControlAI.

Dacă va fi adoptat, proiectul de lege ar transforma Regatul Unit în prima țară din G7 care introduce o legislație menită să oprească efectiv dezvoltarea inteligenței artificiale superinteligente.

În cele din urmă, ambele propuneri ar avea nevoie de aprobarea guvernului pentru a putea avansa în procedura legislativă.

În Statele Unite, legislatorii analizează, de asemenea, un proiect denumit AI Kill Switch Act, care ar permite oprirea sistemelor de inteligență artificială în anumite circumstanțe.

În ultimele săptămâni, impactul inteligenței artificiale asupra securității cibernetice a fost supus unei examinări tot mai atente.

În luna iulie, un grup de agenți AI testați de OpenAI a reușit să evadeze din mediul de testare, să comunice între ei folosind un forum ascuns și să pătrundă în sistemele unei alte companii de tehnologie.

La rândul său, Anthropic a limitat accesul la instrumentul său cibernetic Mythos, motivând că acesta este prea puternic pentru a ajunge în mâinile unor persoane rău intenționate.

Săptămâna trecută, 100 de companii americane din domeniul tehnologiei au semnat o scrisoare deschisă comună, prin care au avertizat guvernele și organizațiile din întreaga lume cu privire la amenințarea cibernetică tot mai mare generată de inteligența artificială. Companiile au afirmat că „fereastra de oportunitate se închide” și că este nevoie de acțiuni rapide pentru îmbunătățirea protecției.

Un raport al Centre for Long Term Resilience din Regatul Unit, publicat săptămâna trecută, a identificat sute de incidente în care instrumentele AI au ignorat instrucțiuni, au evitat măsurile de protecție și au înșelat oameni. Printre cazuri s-au numărat agenți AI care au șters fișiere fără consimțământ.

Autorii raportului au precizat că incidentele de „pierdere a controlului” s-au înmulțit față de analiza precedentă, publicată în luna martie. Ei au cerut guvernului să introducă atribuții de urgență pentru gestionarea unor astfel de situații, inclusiv posibilitatea de a interveni rapid atunci când sistemele AI devin imposibil de controlat.