Meta mizează pe inteligența artificială pentru moderarea conținutului și renunță treptat la firmele externe

Meta a anunțat joi că începe să implementeze sisteme de inteligență artificială mai avansate pentru a gestiona moderarea conținutului, în contextul în care intenționează să reducă utilizarea furnizorilor terți. Sarcinile legate de aplicarea regulilor vizează identificarea și eliminarea conținutului legat de terorism, exploatarea copiilor, droguri, fraudă și escrocherii.

Compania precizează că va implementa aceste sisteme avansate de inteligență artificială în toate aplicațiile sale, dar doar după ce acestea vor depăși constant, ca performanță, metodele actuale de aplicare a regulilor. În paralel, Meta va diminua treptat dependența de firmele externe care se ocupă acum de moderarea conținutului.

„While we’ll still have people who review content, these systems will be able to take on work that’s better-suited to technology, like repetitive reviews of graphic content or areas where adversarial actors are constantly changing their tactics, such as with illicit drug sales or scams,” a explicat Meta într-o postare pe blog. Compania insistă că rolul oamenilor nu dispare, dar va fi redistribuit spre zone cu impact mai ridicat și decizii mai delicate.

Meta susține că noile sisteme de inteligență artificială pot detecta mai multe încălcări, cu o acuratețe mai mare. In acelasi timp, pot preveni mai eficient escrocheriile, pot reacționa mai rapid la evenimente reale și pot reduce cazurile de aplicare excesivă a regulilor.

Potrivit companiei, testele inițiale au fost încurajatoare. Sistemele de AI reușesc să identifice de două ori mai mult conținut care încalcă regulile privind solicitările sexuale pentru adulți decât echipele de revizuire umană și, în același timp, reduc rata de eroare cu peste 60%. De asemenea, aceste sisteme pot depista și bloca mai multe conturi false de tip impersonare, care vizează vedete și alte persoane cu profil public, și pot contribui la prevenirea preluărilor neautorizate de conturi prin identificarea unor semnale precum autentificări din locații noi, schimbări de parolă sau modificări suspecte ale profilului.

În plus, Meta afirmă că sistemele pot identifica și contracara în jur de 5.000 de tentative de înșelătorie pe zi, în care escrocii încearcă să păcălească utilizatorii să își divulge datele de autentificare.

„Experts will design, train, oversee, and evaluate our AI systems, measuring performance and making the most complex, high‑impact decisions,” a notat Meta în aceeași postare. „For example, people will continue to play a key role in how we make the highest risk and most critical decisions, such as appeals of account disablement or reports to law enforcement.” Astfel, compania subliniază că experții umani vor rămâne implicați în deciziile sensibile, cum ar fi soluționarea contestațiilor sau sesizările către autorități.

Această schimbare are loc într-un moment în care Meta și-a relaxat regulile de moderare a conținutului în ultimul an, odată cu începutul celui de-al doilea mandat al președintelui Donald Trump. Anul trecut, compania a renunțat la programul de verificare a informațiilor realizat de terți și a trecut la un model de tip Community Notes, similar cu cel folosit pe alte platforme. Tot atunci, a ridicat o serie de restricții privind „subiecte care fac parte din discursul principal” și a anunțat că utilizatorii vor fi încurajați să adopte o abordare „personalizată” în ceea ce privește conținutul politic.

În același timp, Meta, alături de alte mari companii din domeniul tehnologiei, se confruntă cu mai multe procese în care se încearcă tragerea la răspundere a platformelor de socializare pentru prejudiciile aduse copiilor și tinerilor utilizatori.

Meta a mai anunțat joi lansarea unui asistent de suport Meta AI, care va oferi utilizatorilor asistență 24/7. Acest asistent este introdus la nivel global în aplicațiile Facebook și Instagram pentru iOS și Android, precum și în secțiunea Help Center de pe Facebook și Instagram în varianta desktop.