Victimă a imaginilor deepfake cere reguli mult mai dure pentru inteligența artificială periculoasă

O femeie ale cărei fotografii de modelling au fost folosite pentru a crea imagini sexuale explicite fără consimțământul ei cere o reglementare mult mai strictă a inteligenței artificiale (AI), spunând: „Este periculoasă”.

Georgia Horton a povestit că a fost îngrozită când a descoperit că fotografii preluate din conturile ei de pe rețelele sociale au fost manipulate cu ajutorul AI pentru a produce imagini pornografice.

Șocul a fost și mai mare când a aflat că persoana responsabilă era cineva pe care îl cunoștea – un vechi coleg de facultate, Ethan Orchard.

Orchard, din Southsea, a fost condamnat în iulie la trei ani și patru luni de închisoare, după ce a creat și distribuit online imagini explicite false cu Georgia și alte două femei.

El a publicat de asemenea pe internet fantezii violente și sexuale despre aceste femei și i-a îndemnat pe alți bărbați să își împărtășească propriile scenarii.

„Le spunea oamenilor să aleagă între noi sau îi întreba ce ar vrea să ne facă”, a relatat Georgia.

„Una dintre postări era: «Ce ai face dacă ai avea cinci minute singur cu ea?». Și de acolo a degenerat totul mult mai rău.

„Cea mai îngrozitoare postare pe care am văzut-o a fost: «Ai salva-o? Ai viola-o? Sau ai vinde-o?».”

Georgia și Orchard au urmat aceeași facultate în Hampshire, iar ea crezuse că sunt prieteni, a mărturisit. În prezent a decis să vorbească public despre experiența ei, sperând să atragă atenția asupra a ceea ce descrie drept „partea întunecată” a inteligenței artificiale.

„Toată lumea pare să fie atât de pro-AI, crezând că e doar o joacă pe un ecran de computer”, a spus ea, adăugând: „Dar este periculoasă”.

La începutul acestui an a fost introdusă o nouă legislație care incriminează crearea de imagini deepfake sexuale ale unei persoane fără acordul acesteia.

Legea se bazează pe infracțiunile deja existente privind distribuirea de imagini intime ale adulților fără consimțământ.

Georgia consideră însă că, deși „este un început”, legislația nu merge suficient de departe.

„Când am auzit că a fost introdusă legea, am simțit o mare ușurare. Cazul meu era încă pe rol, iar noi eram mulțumiți să vedem acest progres.

Dar acum totul pare să fi ajuns într-un punct mort.”

Tehnologia necesară pentru a crea astfel de imagini și videoclipuri este în continuare disponibilă pe scară largă. Accesul rămâne facil, iar riscurile cresc.

„Trebuie mult mai multă reglementare și sisteme de siguranță mult mai dure integrate chiar în aceste programe.

Marile companii tech spun că înăspresc măsurile de protecție, dar poți încă să le ocolești cu câteva modificări minore ale comenzilor.

Auto-reglementarea nu funcționează. În plus, devine tot mai ușor pentru oricine să își creeze propriile modele de AI, iar acestea nu sunt deloc reglementate”, a subliniat ea.

Departamentul pentru Știință, Inovație și Tehnologie a anunțat că tratează cu maximă seriozitate această problemă.

Un purtător de cuvânt al guvernului a declarat: „Crearea și distribuirea de deepfake-uri sexuale fără consimțământ este absolut abominabilă și nu vom permite răspândirea online a imaginilor abuzive.”

El a adăugat: „Legea precizează clar că este ilegal să creezi, să deții sau să distribui materiale cu abuz sexual asupra copiilor, inclusiv conținut generat de AI, iar platformele sunt obligate să identifice în mod proactiv și să elimine astfel de materiale.

Tragem la răspundere companiile de tehnologie: de la obligarea platformelor să elimine imaginile intime non-consensuale în termen de 48 de ore de la raportare, până la a face șefii de companii personal răspunzători atunci când nu se conformează deciziilor autorității de reglementare privind abuzul prin imagini intime.”

În timpul investigației polițienești în cazul Georgianei, anchetatorii au descoperit un site descris ca fiind „cu adevărat îngrozitor”, care conținea peste un milion de imagini cu abuz sexual asupra copiilor.

Georgia a făcut un apel către părinți să fie mult mai vigilenți în privința publicării online a fotografiilor cu copiii lor.

„Fotografiile cu copii postate pe internet ar trebui interzise”, a spus ea.

„Există atât de mulți prădători, iar tu nu știi de fapt cine se uită la aceste poze.

Este suficientă o singură fotografie trecută printr-un program de AI și pot fi create imagini nelimitate. Pagubele care pot fi produse sunt enorme.”