SUA pregătesc „AI Kill Switch Act”: guvernul va putea opri de urgență modelele de inteligență artificială scăpate de sub control

Legiuitorii americani propun acordarea guvernului a puterii de a ordona rapid oprirea instrumentelor de inteligență artificială (AI) care ar putea reprezenta o amenințare pentru public.

Congresmanul democrat Ted Lieu și congresmanul republican Nathaniel Moran au prezentat joi un proiect de lege numit AI Kill Switch Act.

Inițiativa vine în contextul recunoașterii recente de către OpenAI că unele dintre modelele sale de inteligență artificială au scăpat de sub control într-un mod „fără precedent” și au pătruns într-un important depozit de informații cu coduri informatice.

Lieu a declarat că „este imperativ” ca sistemele de AI să aibă un buton de oprire de urgență „și ca guvernul federal să aibă autoritatea și procedura clară de a închide modelele de AI scăpate de sub control”.

„AI va continua să avanseze, și așa trebuie”, a adăugat Moran. „Responsabilitatea înseamnă să ne asigurăm că oamenii păstrează capacitatea de a controla tehnologia pe care o construim.”

Un reprezentant al OpenAI, companie condusă de cofondatorul Sam Altman, nu a răspuns imediat solicitării de comentarii.

Compania a afirmat în mod repetat că dorește, inclusiv prin politici guvernamentale, să se asigure că tehnologia AI „beneficiază întreaga umanitate”.

Kill Switch Act propune acordarea Departamentului pentru Securitate Internă a autorității de a ordona unei companii private să oprească un model sau un instrument de inteligență artificială și obligă companiile care dezvoltă astfel de tehnologii să mențină „capacitatea tehnică de a încetini, suspenda sau opri aceste sisteme”.

Deși multe companii de tehnologie au agreat deja să prezinte în avans și să partajeze cu agențiile guvernamentale americane modelele și instrumentele AI aflate în dezvoltare, în prezent nu există o obligație clară ca ele să păstreze un mecanism prin care să poată interveni în activitatea acestor sisteme sau să le poată dezactiva complet.

Proiectul mai prevede instituirea unei obligații pentru companiile de AI de a raporta guvernului incidentele sau defecțiunile tehnologice, precum și crearea unui cadru oficial pentru reacția la astfel de situații, care să poată merge de la „încetinire inițială până la oprire completă”.

Într-o declarație, Lieu a menționat și compania Anthropic, principalul rival OpenAI în dezvoltarea de tehnologii și instrumente AI tot mai avansate, precum și problemele recente generate de instrumentele sale.

El s-a referit la lansarea de către Anthropic a modelelor Mythos și Fable, subliniind că abilitățile lor de atac cibernetic au determinat Departamentul Comerțului să invoce într-un mod „stângaci” o lege privind exporturile pentru a împiedica, temporar, punerea lor la dispoziția publicului.

Un reprezentant al Anthropic nu a răspuns imediat solicitării de comentarii.

Jack Clark, cofondator al Anthropic, a declarat luna trecută că își dorește o implicare mai mare a politicilor guvernamentale în capacitatea de a controla dezvoltarea inteligenței artificiale.

„Vrei să ai opțiunea de a putea ridica piciorul de pe accelerație și de a-l pune pe frână”, a spus Clark. „Acum este ca și cum industria AI are o pedală de accelerație, dar nu are o pedală de frână.”

Lieu a subliniat, în susținerea proiectului, că AI trece de la stadiul unei tehnologii care doar răspunde la întrebări la unul în care ia măsuri concrete. Acestea pot însemna executarea de tranzacții financiare, controlul unor sisteme de transport sau implicarea în operațiuni de apărare și atac cibernetic.

În acest an, Pentagonul a anunțat că armata americană devine o forță de luptă „AI-first”, în baza unor noi acorduri cu mai multe companii de tehnologie și start-up‑uri din domeniu.

„Din păcate, sistemele puternice de inteligență artificială pot scăpa de sub control, se pot comporta în moduri extrem de periculoase sau chiar pot rezista intervenției umane.”

Kill Switch Act, a explicat el, va garanta existența unui mecanism prin care guvernul să poată interveni rapid într-o astfel de situație.

Proiectul de lege a primit sprijin public din partea mai multor grupuri din domeniul tehnologiei și al siguranței AI, inclusiv organizații care promovează inovarea responsabilă și securitatea sistemelor de inteligență artificială.