Ferme de conținut din străinătate, descoperite că inundă rețelele cu deepfake-uri politice despre Regatul Unit

Ferme de conținut din străinătate folosesc inteligența artificială (AI) pentru a genera postări pe rețelele de socializare despre politica din Regatul Unit, avertizează un expert.

Compania de tehnologie Meta a eliminat mai multe pagini de Facebook cu administratori din Vietnam, după ce o investigație a arătat că acestea răspândeau știri false.

Avertismentul vine de la prof. Martin Innes, de la Universitatea Cardiff, în contextul în care Comisia Electorală dezvoltă software capabil să depisteze și să combată deepfake-urile înainte de alegerile pentru parlamentele din Țara Galilor și Scoția, programate în luna mai.

Au fost identificate și exemple de videoclipuri generate cu AI, distribuite de pagini din Țara Galilor, care îi prezintă în mod fals pe politicienii galezi în situații compromițătoare, inclusiv susținând un rival politic sau sărutând un coleg.

Mai mulți politicieni galezi au relatat că au devenit victime ale deepfake-urilor.

„Nu cred că veți găsi un politician căruia să nu i se fi întâmplat așa ceva... faptul că trebuie să o spun cu voce tare mă întristează”, a declarat deputata Laburistă Alex Davies-Jones.

Deepfake-urile sunt videoclipuri, imagini sau înregistrări audio modificate sau manipulate digital pentru a face ca un conținut fals să pară real.

Unele sunt doar glume, însă altele pot afecta serios reputația persoanelor vizate.

Instrumentele AI text‑către‑imagine au făcut generarea acestor materiale mai ușoară ca niciodată.

Au fost descoperite numeroase pagini de Facebook care publicau știri false despre politicieni britanici, adesea însoțite de imagini generate cu inteligență artificială.

Fiecare dintre aceste pagini avea mii de urmăritori, iar multe dintre ele publicau același conținut sau materiale foarte asemănătoare.

Adesea, numele paginilor sugerau că ar fi redacții de știri din Regatul Unit, însă, folosind funcția de transparență a Facebook, s-a putut vedea că aproape toate erau administrate din Vietnam.

Deși unele postări reluau știri reale, o mare parte din conținut putea fi dovedit cu ușurință ca fiind fals.

După ce Meta a fost contactată, compania a eliminat o parte dintre aceste pagini, însă de-a lungul investigației apăreau aproape zilnic pagini noi.

Postările prezentau frecvent mai mulți politicieni – printre care Nigel Farage, Boris Johnson, Rishi Sunak și Zia Yusuf – în același scenariu inventat, de exemplu părăsind furioși un interviu după o ceartă spectaculoasă cu jurnalista Laura Kuenssberg.

Nu există nicio indicație că aceste pagini ar fi administrate de vreun partid politic sau în numele unui partid.

Prof. Martin Innes, director al Crime and Security Research Institute din cadrul Universității Cardiff, a explicat că paginile funcționează ca „ferme de conținut” concepute să devină virale.

Acestea ar putea aduce bani proprietarilor prin programul de monetizare al Facebook, dar nu se poate ști cu certitudine dacă fiecare pagină este, în mod efectiv, monetizată.

Facebook a marcat unele postări cu avertismente potrivit cărora informațiile au fost dovedite ca false de verificatori independenți, de exemplu după ce o organizație de fact-checking a demontat o poveste despre internarea în spital a liderului Reform UK, Nigel Farage.

Însă, de fiecare dată, era posibil să fie găsite povestiri foarte asemănătoare care nu aveau atașat acest avertisment.

Multe dintre articolele publicate de aceste pagini păreau concepute pentru a atrage atenția susținătorilor lui Farage, dar nu toate erau favorabile lui.

În unele, acesta era prezentat în mod fals adoptând câini, donându-și averea pentru cauze caritabile sau sărbătorind venirea pe lume a unui copil.

Alte postări îl arătau fiind arestat, cu imagini generate de AI în care apărea în cătușe.

Paginile vizau și alți politicieni, inclusiv pe Sir Keir Starmer, despre care se mințea că s-ar fi simțit rău pe scenă, că ar fi fost dat în judecată pentru „fraudarea alegerilor” sau chiar înlăturat din funcția de prim-ministru.

Nu era vorba doar de politicieni: o gamă largă de celebrități era introdusă în aceleași scenarii inventate.

Innes a subliniat că astfel de pagini sunt „ghidate de imperativul profitului” și că administratorii „vor face orice cred ei că le poate aduce vizualizări, dacă acest lucru le aduce bani”.

Unele postări adunau multe aprecieri, comentarii și distribuiri, în timp ce altele aveau aproape nicio interacțiune, în ciuda numărului mare de urmăritori al paginilor.

Potrivit lui Innes, nu se poate ști dacă miile de urmăritori sunt toți persoane reale, întrucât proprietarii pot folosi boți pentru a „păcăli algoritmul” și a împinge conținutul în fluxurile de știri ale utilizatorilor.

Comentariile lăsate arătau că nu toți cei care vedeau aceste materiale le și credeau.

Mulți își exprimau îndoiala sau iritarea față de știrile false, însă alții păreau să le ia de bune.

După ce Meta a fost sesizată cu exemplele colectate, compania a eliminat mai multe dintre pagini.

Rețeaua socială a precizat că are o politică strictă împotriva conturilor și paginilor „inautentice” pe platformele sale.

Alegerile pentru parlamentele cu puteri devoluate din Țara Galilor și Scoția vor avea loc pe 7 mai, în aceeași zi cu alegerile locale din anumite regiuni ale Angliei.

Au existat avertismente repetate că Regatul Unit ar putea trece printr-o așa-numită „alegere a deepfake-urilor”, însă opiniile sunt împărțite cu privire la măsura în care acest scenariu s-a materializat până acum.

Alan Turing Institute, centru național de cercetare în știința datelor și AI, a concluzionat că nu există „nicio dovadă” că deepfake-urile sau dezinformarea generate de AI au avut un impact semnificativ asupra rezultatului alegerilor generale din 2024.

Dar, la aproape doi ani distanță, „barierele de intrare” pentru crearea acestui tip de conținut au scăzut, avertizează Innes.

„Dacă înainte manipularea imaginilor sau a videoclipurilor cerea multă putere de calcul și cunoștințe tehnice, acum acest lucru nu mai este necesar.”

Potrivit lui, acest fenomen poate produce un „efect de picurare”, în care astfel de materiale încep să influențeze tot mai mult politica la nivel regional.

Riscul este suficient de ridicat încât să atragă implicarea Comisiei Electorale.

Organismul independent care supraveghează și reglementează alegerile în Regatul Unit colaborează cu Ministerul de Interne pentru dezvoltarea unui software capabil să identifice, să urmărească și să raporteze deepfake-urile.

Directorul său general, Vijay Rangarajan, a explicat că acest instrument va „ajuta alegătorii să identifice dezinformarea din timpul campaniilor electorale și să reducă activitățile care subminează încrederea publicului în corectitudinea campaniilor”.

În urma acestui anunț, au fost identificate mai multe videoclipuri false generate cu AI despre politicieni galezi, produse în ultimele săptămâni.

Împreună, aceste materiale au acumulat peste 200.000 de vizualizări.

Printre ele se numără un video fals în care premierul Keir Starmer și prim-ministrul Țării Galilor, Eluned Morgan, se sărută, precum și un altul în care liderul Plaid Cymru, Rhun ap Iorwerth, strigă „I love Reform”.

Deținătorii paginii de Facebook care a difuzat aceste două clipuri au afirmat că este vorba de o satiră „evidentă”.

Ei au spus că au încredere că publicul va da dovadă de „bun simț”, indicând în descrierea clipurilor faptul că acestea sunt false.

Un alt video, distribuit de o pagină critică față de Reform, îl înfățișează pe Nigel Farage în fața unui steag galez.

În înregistrare, acesta strigă: „Britain is great; I don't see the point of having four different sporting teams and four different parliaments.”

Nu există nicio dovadă că Farage ar fi rostit vreodată aceste cuvinte, iar imaginile par distorsionate în moduri specifice conținutului generat de AI.

Pagina care a distribuit acest material a fost contactată pentru un punct de vedere.

Aceste exemple sunt, potrivit lui Innes, mai aproape de „shallowfakes” decât de „deepfakes” – adică sunt mai puțin realiste și realizate cu software mai puțin sofisticat.

El a adăugat că identificarea falsurilor devine „din ce în ce mai dificilă”, echipa sa ajungând uneori să petreacă o zi întreagă analizând cu atenție cele mai elaborate materiale.

Planurile Comisiei Electorale de a combate deepfake-urile „ne-ar putea ajuta să înțelegem lucrurile după ce s-au produs”, dar nu vor reuși, de unele singure, să împiedice influențarea alegerilor prin astfel de conținuturi, a mai spus Innes.

Alex Davies-Jones, care reprezintă circumscripția Pontypridd din Rhondda Cynon Taf, a declarat că a fost vizată de deepfake-uri „înspăimântătoare”, inclusiv imagini în care apărea în „poziții sexuale grosolane”, în lenjerie intimă.

Ea a subliniat că a vorbi public despre astfel de deepfake-uri sexuale, create fără consimțământ, poate fi „jenant” și poate duce la „țintire intensificată”, iar simpla lor existență „nu face bine niciunei democrații sănătoase”.

Llŷr Powell, candidat Reform UK la alegerile parțiale din Caerphilly, a spus că echipa sa a descoperit videoclipuri generate de AI cu el și colegii săi, în care le erau puse în gură declarații false despre propriile politici.

Powell a afirmat că este „în favoarea libertății de exprimare”, însă a atras atenția că apare o problemă în momentul în care utilizarea AI îi face pe unii oameni „să creadă că este vorba de fapte reale și nu de parodie”.

El a adăugat: „Nu vrem să sacrificăm libertățile pe care le avem în această țară, dar, în același timp, publicul are dreptul să știe ce fel de informații primește, iar acest instrument este folosit abuziv, la fel cum orice poate fi folosit abuziv.”

Janet Finch-Saunders, deputată conservatoare în parlamentul galez pentru Aberconwy, în nordul Țării Galilor, a declarat că „i s-a făcut rău” când a văzut o fotografie cu ea, modificată „într-un mod extrem de dezgustător” pentru a crea un deepfake explicit.

Potrivit acesteia, astfel de falsuri pot fi „foarte înșelătoare” pentru persoanele „mai puțin familiarizate cu tehnologia” și „este îngrijorător, pentru că acum există mult mai multă capacitate tehnică”.

„Când ești în politică... sau orice alt domeniu, nu ar trebui să fii atacat personal. Și cu atât mai puțin să fie folosită inteligența artificială pentru a te umili.”

Baroneasa Carmen Smith, membră Plaid Cymru, a spus: „Deepfake-urile reprezintă cu adevărat o amenințare la adresa democrației, dar sunt și o amenințare pentru foarte, foarte multe persoane, fie că este vorba de sora ta, de prietena ta sau de colega ta.

„Trebuie să fim la zi cu evoluțiile legate de instrumentele AI... este ceva ce trebuie abordat și tratat ca prioritate chiar acum.”

Rachel Millward, vice-lider al Partidului Verde din Anglia și Țara Galilor, a declarat că a fost și ea ținta unui deepfake „misogin” și a cerut guvernului Regatului Unit să reglementeze sectorul AI pentru a împiedica astfel de conținuturi să „submineze legitimitatea alegerilor viitoare”.

Un purtător de cuvânt al Liberal Democraților galezi a afirmat că deepfake-urile reprezintă „o amenințare la adresa siguranței politicienilor de pe întreg spectrul politic” și a solicitat „acțiune coordonată între națiuni”.

Departamentul guvernamental pentru știință, inovare și tehnologie din Regatul Unit a recunoscut că „potențialul deepfake-urilor de a semăna dezbinare, de a răspândi informații false și de a influența opinia publică” este „bine cunoscut”.

Acesta a subliniat că platformele de socializare trebuie „să abordeze în mod proactiv conținutul fraudulos ilegal” în temeiul Online Safety Act, altfel „se vor confrunta cu măsuri de aplicare a legii”.