Ministru britanic: Guvernul trebuie să țină cont de avertismentele dezvoltatorilor de IA

Guvernul britanic trebuie să „țină cont de avertismentele” celor „aflați în prima linie” a dezvoltării tehnologiei inteligenței artificiale (IA), va declara mai târziu un ministru important.

Primul secretar de stat Louise Haigh va vorbi despre îngrijorările tot mai mari privind siguranța IA, în cadrul congresului TUC de marți.

Este de așteptat ca ea să spună că guvernul este „pregătit să colaboreze cu partenerii internaționali” pentru a acorda prioritate siguranței publice și securității naționale.

Temerile legate de potențialele pericole ale IA s-au amplificat în ultimele zile, după ce directori și angajați actuali și foști din domeniu au avertizat că tehnologia ar putea pune în pericol omenirea.

Luni, premierul britanic Andy Burnham a salutat discuțiile recente despre riscuri. Purtătorul său de cuvânt a declarat: „Este un lucru bun că firmele care dezvoltă cele mai avansate sisteme de IA vorbesc acum deschis atât despre riscuri, cât și despre oportunități”.

În discursul pe care îl va susține marți la congresul TUC, Haigh este așteptată să recunoască și beneficiile tehnologiei. „IA are un potențial enorm de a transforma serviciile noastre publice, de a consolida companiile și de a produce noi descoperiri științifice”, va spune ea.

Declarațiile au loc în timp ce parlamentarii britanici solicită adoptarea unor legi noi privind IA, după ce un raport a constatat că tehnologia a fost responsabilă pentru numeroase abuzuri ale drepturilor omului.

„Nicăieri în lume, inclusiv în Regatul Unit, abordarea legislativă și de reglementare actuală privind IA nu este adecvată scopului”, a declarat deputatul laburist și președintele comisiei, Alex Sobel.

Un purtător de cuvânt al guvernului britanic a afirmat că executivul „ia foarte în serios riscurile asociate IA avansate”.

„Aceste riscuri depășesc granițele, așa că lucrăm îndeaproape cu firmele care dezvoltă cele mai avansate sisteme, precum și cu aliații și partenerii noștri internaționali”, a adăugat acesta.

Cercetătorul de la Anthropic, Evan Hubinger, a atras atenția după ce a spus că, în opinia sa, există o probabilitate de peste 10% ca IA „să ucidă toți oamenii” în următorul deceniu.

Afirmația lui Hubinger a venit după ce un cercetător care a părăsit compania Anthropic a devenit cunoscut public pentru avertismentele sale privind „soarta omenirii în următorii doi ani”, în legătură cu IA.

„Dacă nu încetinim ritmul actual al progresului, există o șansă mare ca toți să murim în viitorul imediat”, a spus Jacob Coxon, fost angajat al Anthropic.

Directorul executiv al Anthropic, Dario Amodei, a cerut ulterior încetinirea ritmului de dezvoltare a modelelor de IA, precum Claude sau ChatGPT, precum și monitorizarea atentă a acestora.

Amodei a declarat că riscurile asociate tehnologiei sunt „grave” și că firmelor și guvernelor trebuie să li se acorde timp pentru a le aborda. Sam Altman, de la OpenAI, și Elon Musk i-au susținut poziția.

Totuși, unii reprezentanți ai industriei IA au sugerat că temerile privind distrugerea omenirii sunt exagerate sau chiar că ar putea fi alimentate în mod intenționat pentru a genera publicitate.

Unul dintre cofondatorii Anthropic a propus, de asemenea, existența unui „întrerupător de urgență” pentru IA, ca modalitate de a opri software-ul care devine prea periculos.

Jack Clark, unul dintre cei șapte fondatori ai companiei de IA, a spus că „majoritatea laboratoarelor au metode diferite prin care pot opri sistemele”, inclusiv Anthropic. El a adăugat însă că parlamentarii ar putea fi nevoiți să impună prin lege existența unui astfel de mecanism.

Guvernul britanic a respins însă ideea creării unui așa-numit „întrerupător de urgență” pentru controlarea IA periculoase în viitor.

Propunerea de creare a unui mecanism legal prin care Regatul Unit să poată opri un model de IA în caz de urgență a fost prezentată în Parlament de membri ai Camerei Lorzilor și ai Camerei Comunelor. Cabinet Office a declarat însă că Regatul Unit „nu poate pur și simplu să oprească IA”.

„Blocarea accesului la modele în Regatul Unit nu ar împiedica dezvoltarea sau utilizarea lor abuzivă în alte părți”, a declarat un purtător de cuvânt.

Între timp, președintele Statelor Unite, Donald Trump, a respins ideea că IA ar putea prelua controlul asupra lumii. El a scris pe rețelele sociale că afirmațiile potrivit cărora IA „ar distruge omenirea și toate celelalte lucruri rele sunt o FARSĂ”.

Într-o postare ulterioară pe platforma Truth, Trump a spus că farsa privind IA este „perpetuată de Dumocrații de stânga radicală” și a comparat-o cu ceea ce el numește „escrocheria încălzirii globale” promovată de stânga.

Președintele, care distribuie frecvent conținut generat de IA pe platforma sa Truth Social, a lăudat beneficiile tehnologiei și și-a exprimat în mod public dorința ca Statele Unite să câștige „cursa IA”.

Abonați-vă la newsletterul Politics Essential pentru a urmări modul în care funcționează Westminster și evoluțiile politice din Regatul Unit și din afara acestuia.