Snapchat, LinkedIn și YouTube pornesc ofensiva împotriva conținutului fals generat de inteligența artificială

Snapchat s-a alăturat platformelor care încearcă să limiteze răspândirea textelor, imaginilor și videoclipurilor false, create integral cu ajutorul instrumentelor de inteligență artificială (AI), alături de alte rețele mari care au anunțat măsuri similare.

Acest tip de conținut, cunoscut în mod curent sub denumirea de „AI slop”, s-a înmulțit rapid online, pe măsură ce industria tehnologică s-a grăbit să lanseze un număr tot mai mare de instrumente de AI generativă, ușor de folosit, capabile să producă orice, de la eseuri la videoclipuri extrem de realiste.

Compania Snap, care deține Snapchat, a anunțat vineri că platforma nu va mai recomanda „videoclipuri generate în întregime de AI” în fluxul său popular Spotlight, preferând în schimb „conținut autentic, creat de oameni”.

În ultimele două săptămâni, și alte platforme au prezentat strategii asemănătoare de limitare a conținutului integral generat de inteligență artificială.

Snap nu merge însă până la a interzice complet conținutul generat de AI pe Snapchat. Platforma pune la dispoziția utilizatorilor propriile sale instrumente de inteligență artificială pentru a modifica sau ajusta conținutul, iar materialele „îmbunătățite sau editate” cu AI vor continua să fie recomandate utilizatorilor.

Totuși, Snap a recunoscut că materialele create în întregime de AI sunt de obicei „de calitate scăzută”, „repetitive” și, în general, nu reprezintă genul de conținut pe care utilizatorii Snapchat își doresc să îl vadă.

Cercetările recente privind modul în care este perceput conținutul generat de AI arată că oamenii tind să fie de acord cu aceste descrieri negative.

Mai mult decât atât, cu cât utilizatorii văd mai des conținut fals, creat de AI, într-un flux de social media, cu atât sunt mai puțin înclinați să creadă că restul materialelor pe care le văd online sunt autentice, potrivit unui alt sondaj.

După cum a spus săptămâna trecută Chris Best, cofondator și director executiv al Substack: „It's getting harder to tell what's real on the internet.”

Anunțând un nou instrument conceput pentru a-i ajuta pe cititorii de pe platforma de newslettere să detecteze textele generate de AI, Best a citat și alte studii care au constatat că până la 40% din textele de pe rețelele sociale sunt acum false sau generate de algoritmi.

„Platforms that reward fakeness will create a race to the bottom”, a declarat Best, avertizând asupra efectelor pe termen lung ale unei astfel de tendințe.

LinkedIn, rețeaua socială orientată spre mediul profesional, a introdus în această săptămână un buton care permite oricărui utilizator să raporteze dacă o postare sau un comentariu pare să fie generat de AI.

„AI slop is a top priority for all of us”, a scris pe platformă Hari Srinivasan, directorul de produs al LinkedIn.

El a precizat că, doar în ultimele câteva luni, rețeaua a „blocat miliarde” de tentative de a publica comentarii generate de inteligență artificială.

„Every day we are now catching hundreds of thousands of automated comment attempts”, a mai spus Srinivasan, subliniind amploarea fenomenului.

La fel ca Snap, LinkedIn nu respinge complet utilizarea AI și susține că utilizatorii care folosesc astfel de instrumente pentru a-și „rafina” textele nu ar trebui să fie penalizați în cadrul acțiunilor de combatere a conținutului considerat „AI slop”.

Cu toate acestea, LinkedIn renunță la un îndemn automat care apărea până acum în timpul redactării unei postări și care le sugera utilizatorilor să o „îmbunătățească” prin AI. Această funcție va fi înlocuită de un simplu instrument de corectură și verificare a textului.

YouTube, platforma de video deținută de Google, și-a actualizat la rândul său, luna aceasta, regulile privind tipurile de conținut care pot fi monetizate de creatori.

Un studiu realizat anul trecut a identificat zeci de canale pe YouTube alcătuite exclusiv din conținut generat de AI, multe dintre ele având milioane de abonați și unele obținând venituri de ordinul milioanelor de dolari.

În încercarea de a descuraja umplerea platformei cu ceea ce YouTube numește „conținut neautentic”, site-ul a stabilit la începutul acestei luni trei categorii principale de videoclipuri care nu mai pot fi monetizate: materiale generice, extrem de repetitive sau realizate pe baza unor șabloane fixe.

Aceste tipuri de conținut sunt mult mai ușor și mai rapid de produs cu ajutorul instrumentelor de AI generativă, ceea ce le face atractive pentru cei care vor să publice masiv.

Matt Halprin, șeful diviziei de încredere și siguranță de la YouTube, a explicat într-un interviu despre noile reguli că, deși tehnologia AI poate ajuta creatorii să-și dezvolte conținutul, ea este folosită tot mai des pentru a produce videoclipuri false și de slabă calitate.

„The same technology really enables great stuff”, a spus Halprin, amintind partea pozitivă a acestor instrumente.

„But it also enables stuff that's kind of content farming, and that's the stuff that we don't want to have”, a adăugat el, subliniind că obiectivul este reducerea așa-numitelor „ferme de conținut” și încurajarea materialelor autentice și valoroase.