YouTube lansează un scut anti-deepfake pentru politicieni, oficiali guvernamentali și jurnaliști

YouTube își extinde tehnologia de detectare a asemănării, care identifică deepfake-uri generate de inteligență artificială, către un grup pilot de oficiali guvernamentali, candidați politici și jurnaliști, a anunțat compania marți. Membrii acestui grup pilot vor avea acces la un instrument ce depistează conținut generat cu AI fără autorizare și le permite să solicite eliminarea lui dacă apreciază că încalcă politicile YouTube.

Tehnologia a fost lansată anul trecut pentru aproximativ 4 milioane de creatori incluși în Programul de Parteneriat YouTube, după o serie de teste inițiale.

Similar sistemului existent Content ID al YouTube, care identifică materialul protejat de drepturi de autor în videoclipurile încărcate de utilizatori, funcția de detectare a asemănării caută fețe simulate, create cu instrumente de inteligență artificială. Aceste tooluri sunt uneori folosite pentru a răspândi dezinformare și a manipula percepția publicului asupra realității, exploatând imaginea falsificată a unor persoane cunoscute — precum politicieni sau alți oficiali guvernamentali — pentru a le face să “spună” sau să “facă” în aceste clipuri AI lucruri pe care, în realitate, nu le-au spus și nu le-au făcut.

Prin noul program pilot, YouTube încearcă să echilibreze libertatea de exprimare a utilizatorilor cu riscurile asociate tehnologiilor AI capabile să genereze o asemănare convingătoare cu o persoană publică.

„This expansion is really about the integrity of the public conversation”, a declarat Leslie Miller, vicepreședinte YouTube pentru Afaceri Guvernamentale și Politici Publice, în cadrul unui briefing de presă organizat înaintea lansării de marți. „We know that the risks of AI impersonation are particularly high for those in the civic space. But while we are providing this new shield, we’re also being careful about how we use it”, a mai precizat ea.

Miller a explicat că nu toate potrivirile detectate vor fi automat eliminate la cerere. În schimb, YouTube va evalua fiecare solicitare în baza liniilor sale directoare deja existente privind confidențialitatea, pentru a stabili dacă materialul se încadrează în zona de parodie sau critică politică, forme de exprimare care sunt protejate.

Compania a menționat că susține aceste tipuri de protecții și la nivel federal, sprijinind NO FAKES Act, un proiect legislativ ce urmărește să reglementeze utilizarea inteligenței artificiale pentru a crea reproducerea neautorizată a vocii și a imaginii vizuale ale unei persoane.

Pentru a folosi noul instrument, participanții eligibili în programul pilot trebuie mai întâi să își dovedească identitatea, încărcând un selfie și un act de identitate emis de autorități. Ulterior, ei își pot crea un profil, pot vedea potrivirile care apar și, la nevoie, pot solicita eliminarea conținutului. YouTube afirmă că intenționează, în timp, să ofere posibilitatea de a împiedica încărcarea conținutului care încalcă regulile chiar înainte ca acesta să devină public sau, eventual, să permită monetizarea acelor videoclipuri, după un model similar cu sistemul Content ID.

Compania nu a dezvăluit ce politicieni sau oficiali fac parte dintre primii testeri, însă a subliniat că obiectivul este ca tehnologia să devină treptat disponibilă pe scară largă.

Aceste videoclipuri generate cu ajutorul AI vor fi etichetate ca atare, însă poziționarea acestor etichete nu este întotdeauna consecventă. Pentru unele clipuri, mențiunea apare în descriere, în timp ce videoclipurile axate pe subiecte considerate mai „sensibile” primesc eticheta direct pe ecran, la începutul vizionării. Este aceeași abordare pe care YouTube o aplică tuturor conținuturilor generate de inteligență artificială.

„There’s a lot of content that’s produced with AI, but that distinction’s actually not material to the content itself”, a explicat Amjad Hanif, vicepreședinte YouTube pentru Produse dedicate Creatorilor, referindu-se la poziționarea etichetei. „It could be a cartoon that is generated with AI. And so I think there’s a judgment on whether it’s a category that maybe merits from a very visible disclaimer”, a spus el.

YouTube nu dezvăluie deocamdată câte astfel de deepfake-uri au fost eliminate cu ajutorul tehnologiei de detectare puse deja la dispoziția creatorilor. Compania a precizat doar că volumul de conținut eliminat până acum a fost „very small”.

„I think for a lot of [creators], it’s just been the awareness of what’s being created, but the volume of actually removal requests is really, really low because most of it turns out to be fairly benign or additive to their overall business”, a mai spus Hanif.

S-ar putea însă ca situația să fie diferită în cazul deepfake-urilor ce vizează oficiali guvernamentali, politicieni sau jurnaliști.

În timp, YouTube intenționează să extindă tehnologia de detectare a deepfake-urilor și către alte zone, inclusiv către recunoașterea vocii vorbite recognoscibile, dar și către alte elemente de proprietate intelectuală, cum sunt personajele populare sau alte creatii protejate.