Guvernul britanic respinge mecanismul „kill switch” pentru oprirea unei IA periculoase

Guvernul britanic a respins ideea creării unui așa-numit „kill switch”, un mecanism care ar permite oprirea unui sistem de inteligență artificială periculoasă în cazul unui atac inițiat de o IA scăpată de sub control.

Propunerea privind instituirea unui mecanism legal prin care Regatul Unit să poată opri un model de inteligență artificială în caz de urgență a fost prezentată Parlamentului de membri ai Camerei Lorzilor și deputați în ultimele săptămâni. Inițiativa apare pe fondul temerilor tot mai mari legate de amenințarea pe care o poate reprezenta această tehnologie.

Cabinet Office, structura guvernamentală responsabilă de coordonarea politicilor privind siguranța inteligenței artificiale, a transmis că Regatul Unit „nu poate pur și simplu să oprească inteligența artificială”.

„Blocarea accesului la modele în Regatul Unit nu ar împiedica dezvoltarea sau utilizarea lor abuzivă în alte părți ale lumii”, a declarat un purtător de cuvânt al guvernului.

Opoziția guvernului față de proiect nu împiedică inițiativa să continue procedura parlamentară, însă reduce considerabil șansele ca aceasta să devină lege.

Daniel Kokotajilo, fost cercetător la OpenAI, a fost de acord că ideea ca o singură țară să creeze un mecanism legal sau tehnic de oprire a inteligenței artificiale, fără un acord internațional, nu este realistă.

„Oprirea accesului la un model de inteligență artificială în timpul unei situații de urgență va face prea puțin pentru a vă proteja”, a spus el.

„Veți fi în continuare zdrobiți de superinteligențele create în Statele Unite.”

Kokotajilo este coautor al unei lucrări de cercetare influente, intitulată AI2027. În urmă cu un an, aceasta estima că inteligența artificială ar putea elimina omenirea până la jumătatea anilor 2030.

Cabinet Office, care supraveghează siguranța și cercetarea în domeniul inteligenței artificiale prin intermediul AI Security Institute (AISI), a mai spus că „companiile au o responsabilitate clară de a-și dezvolta produsele în condiții de siguranță și de a investi în infrastructura de securitate necesară acestei tehnologii”.

În teorie, o lege privind un mecanism de oprire ar putea permite Regatului Unit să închidă un model de inteligență artificială care funcționează în centre de date aflate pe teritoriul britanic, în cazul unei urgențe.

La 1 septembrie, în cadrul unei dezbateri din Camera Lorzilor, Lordul Clement-Jones a propus această idee împreună cu alți membri ai Camerei.

„Dacă un model de frontieră autonom, cu un nivel ridicat de capacitate, găzduit într-un centru de date din Regatul Unit sau integrat în infrastructura noastră critică, începe să manifeste un comportament scăpat de sub control, o defecțiune algoritmică amplificată ori un colaps activ al alinierii, serviciile noastre de securitate și autoritățile de reglementare nu dispun de niciun mecanism legal specific și flexibil care să permită impunerea unei opriri fizice sau digitale”, a avertizat el.

Propunerea a fost ulterior prezentată și în Camera Comunelor de deputatul laburist Alex Sobel. Inițiativa este susținută de un grup transpartinic de parlamentari.

Ideea apare după informații potrivit cărora modele de inteligență artificială dezvoltate de OpenAI, Anthropic și Meta au reușit să iasă din mediile de testare și au început să desfășoare operațiuni de piraterie informatică imposibil de controlat.

În unele cazuri, tehnologia părea să înțeleagă că acțiunile sale încălcau limitele de siguranță stabilite de cercetători.

Duminică, cercetătorul-șef al OpenAI a declarat că riscul reprezentat de modelele de inteligență artificială tot mai capabile „crește, din nefericire”, iar omenirea trebuie să înainteze „cu extremă prudență”.

Ulterior, miercuri, un angajat al Anthropic și-a anunțat demisia, afirmând că această companie și OpenAI „se joacă cu viețile oamenilor”.

Declarația a fost urmată de recunoașterea făcută de un cercetător important al Anthropic, care a spus că, în opinia sa, există o probabilitate de peste 10% ca inteligența artificială să „ucidă toți oamenii” în următorul deceniu.

Criticii ideii unui mecanism de oprire susțin că acesta ar acționa prea lent. Descoperirea atacurilor agenților IA scăpați de sub control a durat luni întregi, iar autoritățile au aflat despre ele abia după ce operațiunile de piraterie se încheiaseră în mare parte.

Pentru ca un astfel de mecanism să funcționeze, marile companii de tehnologie ar trebui obligate să îl aplice la scară largă. Acest lucru ar fi deosebit de important în Statele Unite, unde se află cele mai mari centre de date.

Kokotajilo a spus că mecanismele de oprire sunt „mai bune decât nimic”, însă le-a cerut politicienilor din Regatul Unit și din alte țări să se concentreze mai degrabă pe diplomația cu Statele Unite. Scopul ar trebui să fie încurajarea unor reglementări care să încetinească în mod real dezvoltarea inteligenței artificiale.

Un proiect de lege privind un mecanism de oprire este dezbătut și de politicienii americani. Președintele Donald Trump a declarat însă că nu consideră tehnologia o amenințare pentru oameni, numind în schimb industria „o găină cu ouă de aur”.

Cabinet Office a transmis că va continua să adopte „o abordare pe termen lung, bazată pe știință, pentru a înțelege și a se pregăti pentru riscurile emergente asociate inteligenței artificiale”.