Comitetul pentru drepturile omului cere o nouă lege pentru a proteja oamenii de riscurile IA

Un grup multipartinic de deputați și membri ai Camerei Lorzilor a identificat riscurile pentru drepturile omului generate de inteligența artificială (IA), susținând că legile existente nu sunt suficient de bine pregătite pentru a le acoperi.

Comitetul mixt pentru drepturile omului (JCHR) a publicat un raport în care solicită adoptarea unei noi legi privind IA, menită să „răspundă amplorii și gravității” acestor amenințări.

„Nicăieri în lume, inclusiv în Regatul Unit, abordarea legislativă și de reglementare actuală a IA nu este adecvată scopului”, a declarat deputatul Alex Sobel, președintele comitetului.

Sâmbătă, directorul companiei americane de IA Anthropic, Dario Amodei, a propus un plan care include reglementarea la nivel global, reguli aplicabile întregii industrii și monitorizarea independentă a modelelor de IA pe măsură ce acestea sunt dezvoltate.

Amodei a cerut încetinirea ritmului de dezvoltare, iar directorii a două companii rivale din domeniul IA, Sam Altman de la OpenAI și Elon Musk, au declarat că sunt de acord cu el.

Una dintre preocupările legate de drepturile omului, semnalate în ultimii ani, este faptul că IA poate manifesta prejudecăți față de anumite grupuri atunci când este antrenată pe seturi mari de date colectate de pe internet. Acestea pot conține materiale rasiste, sexiste sau alte tipuri de conținut nedorit.

IA ar putea fi, de asemenea, utilizată pentru a crea și răspândi informații false.

Într-un rezumat al raportului său de 100 de pagini, JCHR subliniază că IA a fost responsabilă de numeroase încălcări ale drepturilor omului.

Printre exemplele menționate se numără folosirea IA pentru crearea unor imagini sexualizate cu femei și fete, precum și scanarea fețelor oamenilor fără consimțământul acestora.

JCHR susține crearea unui „organism unic și independent de supraveghere a IA, instituit prin lege”.

Comitetul afirmă că legislatia actuală aplicabilă inteligenței artificiale este „fragmentată și dificil de parcurs”, ceea ce „lasă lacune în protecție”.

„Legea privind IA ar trebui să instituie un regim de reglementare care să clasifice diferitele niveluri de risc și să impună obligații mai stricte pentru sistemele și modelele de IA cu risc ridicat”, se arată în raport.

„Obligațiile ar trebui aplicate în toate etapele ciclului de viață al IA, astfel încât cei responsabili din lanțul de furnizare pentru proiectarea, modificarea și utilizarea sistemelor de IA să își cunoască obligațiile, iar acestea să fie îndeplinite în mod eficient.”

„Unele utilizări ale IA ar trebui interzise complet, deoarece sunt incompatibile cu drepturile omului. Printre domeniile care ar putea necesita măsuri se numără tehnicile subliminale și folosirea necorespunzătoare a profilării sau a datelor biometrice.”

„IA este prezentată drept începutul unei ere fără precedent a dezvoltării tehnologice, cu potențialul de a ne transforma viețile în bine sau în rău”, a declarat Sobel.

„Se dezvoltă cu o asemenea viteză și complexitate, încât impactul său este dificil de anticipat cu exactitate. Un lucru este clar: în prezent nu suntem pregătiți să gestionăm consecințele sale, oricât de grave ar putea fi acestea.”

Cei 12 membri ai JCHR provin din ambele Camere ale Parlamentului și includ în prezent deputați și membri ai Camerei Lorzilor din Partidul Laburist, Partidul Conservator și Partidul Liberal Democrat.

Raportul publicat luni apare pe fondul unei îngrijorări tot mai mari cu privire la provocările generate de inteligența artificială.

Jacob Coxon, un cercetător în domeniul IA care a părăsit compania Anthropic, a declarat în acest weekend că angajații care dezvoltă aceste sisteme sunt „cu adevărat speriați” de viitorul omenirii.

Un purtător de cuvânt al Anthropic a declarat că firma construiește „modele care beneficiază de unele dintre cele mai solide măsuri de protecție din industrie”.