Politician local din York, vizat de deepfake-uri AI și sfătuit de poliție să își întărească securitatea acasă

Un important politician local din York, vizat de imagini deepfake generate cu ajutorul inteligenței artificiale, a primit din partea poliției recomandări de a-și spori măsurile de securitate la domiciliu.

Un videoclip fals pare să îl arate pe Pete Kilbane, vice-lider laburist al consiliului municipal, în timp ce înmânează bani unor bărbați cu cagule, după care în spatele lui apare un steag neprecizat. Kilbane a declarat că a fost „șocat” când a văzut pentru prima dată imaginile și a adăugat: „Acesta este un demers de a submina democrația și de a face imposibilă dezbaterea legitimă, bazată pe fapte.”

Un purtător de cuvânt al Consiliului Local al orașului York a subliniat că materialul „nu este satiră”, ci este produs „cu intenția deliberată de a induce oamenii în eroare”.

În septembrie anul trecut, după ce sute de steaguri naționale au fost arborate în tot orașul York, Kilbane a atras atenția că îndepărtarea lor ar putea costa până la 250.000 de lire sterline. La acel moment, el a explicat: „Este, din punct de vedere tehnic, ilegal să agăți lucruri de un stâlp de iluminat fără permisiune. La un moment dat va trebui să începem operațiunea de curățare.”

Pe lângă clipul video fals, chipul lui Kilbane a fost folosit și în imagini statice, distribuite în grupuri de pe rețelele sociale. Unele dintre acestea conțineau asemănarea sa și un citat fals despre sărbători religioase, iar altele – tot cu imaginea lui – erau declarații fabricate care avertizau oamenii să „exercite prudență” în legătură cu dezinformarea despre consiliu.

„Este ca un joc de oglinzi, lumi în interiorul altor lumi. Am fost destul de șocat când am văzut pentru prima dată materialul”, a spus Kilbane. „Te lovește în stomac și, la început, am fost uluit de ce cineva s-ar deranja să creeze un deepfake despre o persoană care este, în fond, un politician destul de mărunt în administrația locală.”

El a precizat că poliția i-a sfătuit atât pe el, cât și pe lidera consiliului, Claire Douglas, să își întărească securitatea la locuințe. „Astfel de videoclipuri deepfake pot inspira oameni să comită acte neplăcute. Nu e deloc bine, dar trebuie să asculți de sfaturile poliției”, a subliniat Kilbane.

„Ceea ce este și mai îngrijorător este că unii intră în dezbatere publică folosind doar minciuni, lucruri pe care și le-au inventat”, a continuat el. „Sunt politician și nu e nimic ce să apreciez mai mult decât o dezbatere bună, onestă și deschisă. Dar atunci când oamenii mint și răsucesc adevărul ca să își susțină punctul de vedere, pășim într-o lume cu totul diferită.”

Dr. Theocharis Kyriacou, conferențiar în inteligență artificială la Universitatea York St John, a declarat că utilizarea deepfake-urilor generate de AI este deja „răspândită” în sfera democrației locale și a administrației publice. „Poate fi vorba de campanii politice, campanii de denigrare, șantaj, obținerea de câștiguri financiare, sau doar încercarea de a atrage atenția”, a arătat el. „Dar există și utilizări benefice ale inteligenței artificiale și nu trebuie să pierdem din vedere acest lucru.”

După ce a analizat clipul cu falsa înfățișare a lui Kilbane, Kyriacou a explicat că un videoclip similar poate fi creat în „aproximativ 15–20 de minute”. Dacă cineva vrea însă să facă ceva mai elaborat, capabil să păcălească persoane care îl privesc superficial, „ai nevoie de mult mai multe imagini și filmări cu persoana respectivă și de câteva ore de lucru. Totuși, poate fi realizat cu echipamente pe care le avem acasă.”

Profesorul a subliniat că, dacă oamenii rămân „vigilenți și sceptici”, pot încă să distingă ceea ce este real de ceea ce este fals. „Începem prin a verifica sursa, ne întrebăm: «Are sens ceea ce vedem?» Ne uităm la artefacte și detalii din imagini și videoclipuri pe care le putem analiza.” El a admis că „devine din ce în ce mai dificil – experții cu software specializat se descurcă mai bine –, dar acesta este un punct de plecare”.

Purtătorul de cuvânt al consiliului a declarat că autoritățile „explorează activ o serie de măsuri” pentru a preveni răspândirea acestui tip de conținut. Acestea includ creșterea nivelului de informare a locuitorilor, astfel încât aceștia să poată identifica mai ușor materialele înșelătoare, precum și analizarea unor posibile demersuri legale, între care protejarea drepturilor de proprietate intelectuală.

„Prioritatea noastră este să protejăm locuitorii, să apărăm integritatea procesului democratic și să ne asigurăm că informațiile corecte despre serviciile din oraș continuă să ajungă la cei care au nevoie de ele”, au adăugat oficialii consiliului.

Consilierul Brian Nelson, secretar național al Asociației Naționale a Consilierilor, a avertizat că această „practică perfidă” se răspândește tot mai mult și „subminează democrația”. Potrivit lui Nelson, este evident că astfel de tactici sunt folosite pentru a ruina reputația aleșilor locali și pentru a schimba componența politică a consiliilor la următoarele alegeri. Asociația a constatat că asemenea incidente pot afecta și sănătatea consilierilor vizați.

El a îndemnat toți politicienii care devin ținte ale unor deepfake-uri sau campanii similare să raporteze imediat cazurile la poliție și să ia toate măsurile posibile pentru a avea grijă atât de siguranța lor personală, cât și de activitatea lor online. „Asociația Națională a Consilierilor este foarte îngrijorată de acest tip de activitate și includem deja un capitol dedicat în sesiunile noastre de instruire pentru consilieri”, a mai spus Nelson.