Algoritmii rețelelor sociale îi prind în capcană. Australia vrea un buton de oprire

Avertisment: acest articol relatează experiența unei persoane care trăiește cu o tulburare de alimentație.

Varsha Yajman era deja nesigură în privința felului în care arăta când s-a alăturat rețelelor sociale, la vârsta de 13 ani.

Fluxurile ei erau pline de videoclipuri nesfârșite cu exerciții fizice, care făceau promisiuni imposibile. Prin intermediul ecranului, fete pe care nu le întâlnise niciodată o îndemnau să se înscrie la provocări periculoase de numărare a caloriilor. Altele își promovau cu mândrie pe profiluri înălțimea și greutatea, ba chiar și numărul de internări în spital, într-o formă de competiție distorsionată.

În fiecare seară, înainte să adoarmă, Varsha urmărea o persoană necunoscută de pe internet care ținea un jurnal despre ce mâncase în ziua respectivă.

„Mă gândeam: «Nu trebuie să mănânc. Pot doar să mă uit la alți oameni cum mănâncă».”

„Ajungeam în niște adevărate găuri negre... era ca și cum, oricât de mult te-ai strădui să ieși, nu ai putea.”

Acum, la 24 de ani și în recuperare după anorexie, Varsha spune că pe rețelele sociale continuă să i se afișeze conținut despre pierderea în greutate, deși a activat toate setările de siguranță și a adăugat o listă lungă de cuvinte interzise.

Guvernul australian afirmă că încearcă să protejeze persoane ca ea printr-un nou pachet de legi care înăsprește regulile pentru marile companii de tehnologie. Proiectul a fost prezentat parlamentului în această săptămână.

Piesa centrală a reformelor propuse este un comutator pentru algoritmi, care ar obliga platformele de socializare să le permită utilizatorilor să dezactiveze conținutul recomandat. Astfel, utilizatorii ar vedea doar postările conturilor pe care le urmăresc.

Australia nu este primul stat care încearcă să introducă o asemenea măsură. Totuși, opțiunile de control al algoritmilor existente sunt adesea temporare și presupun compromisuri în privința funcționalităților aplicațiilor.

Australia vrea să adopte o lege mai strictă, care să prevină aceste probleme. Guvernul speră că noile reguli — ce ar impune și o obligație legală de diligență serviciilor online — îi vor ajuta pe australieni să ducă o viață mai sănătoasă și mai fericită.

Criticii se tem însă că guvernul premierului Anthony Albanese și-a propus mai mult decât poate realiza în confruntarea cu marile companii de tehnologie. Alții, inclusiv administrația Trump, susțin că reformele amenință libertatea de exprimare.

Flynn Martin știe cum e să fii prins într-o spirală creată de algoritmi.

În urmă cu aproximativ patru ani, fluxurile de pe rețelele sociale ale lui Flynn, care avea atunci 20 de ani, au început să fie invadate de Andrew Tate, un influencer misogin autoproclamat, și de alte figuri ale așa-numitei manosfere.

În acea perioadă, Flynn se simțea nesigur, era nemulțumit de viața lui și se confrunta cu probleme de sănătate mintală. Mai târziu a fost diagnosticat cu tulburare bipolară. El spune că a ajuns să creadă în retorica acestor influenceri.

În scurt timp, Flynn a devenit cunoscut în Australia datorită a două videoclipuri. Într-unul se întreba dacă e în regulă să fii bărbat heterosexual și alb, iar în celălalt critica o femeie cu care ieșise la întâlnire pentru că își comandase iaurt înghețat.

„Te trezești într-un fel de cameră de ecou... E ușor să te lași prins în asta.”

„Am ajuns să cred cu adevărat în ideea că trăiam într-o matrice, într-un sistem foarte negativ, creat împotriva ta. Și că singura cale de a ieși din el era să devii acest personaj de mascul alfa.”

Tânărul din Melbourne a reușit să se desprindă de manosferă abia după o perioadă de psihoză și o internare în spital.

Acum îi este greu să se gândească la persoana care era atunci: „Deși simt puțină rușine și jenă... cred că am și o oarecare empatie pentru acel tânăr.”

Atât Flynn, cât și Varsha știu că rețelele sociale nu sunt singurele responsabile pentru cele mai dificile perioade din viața lor, dar spun că au avut un rol important.

Numeroși alți oameni povestesc că au fost confruntați cu materiale de pe rețelele sociale pe care nu le-au căutat și nu au vrut să le vadă. De multă vreme există suspiciuni că algoritmii care selectează conținutul acestor platforme le fac rău utilizatorilor.

Companiile de socializare susțin că riscurile potențiale sunt exagerate și că le pun deja la dispoziția utilizatorilor instrumente eficiente de siguranță.

Cercetările apărute în diferite țări conturează însă o imagine diferită.

Studiile au constatat că folosirea rețelelor sociale declanșează o reacție cerebrală asemănătoare cu cea provocată de jocurile de noroc și de dependența de substanțe. Algoritmii pot recomanda, fără ca utilizatorii să solicite, conținut care le afectează sănătatea mintală. De asemenea, pot contribui la răspândirea dezinformării și la accentuarea polarizării, alimentând violența din lumea reală.

În procese și prin mărturiile avertizorilor de integritate au fost aduse în discuție acuzații potrivit cărora companiile cunosc pericolele, dar sunt dispuse să le treacă cu vederea, în timp ce tehnologia le sporește implicarea utilizatorilor și veniturile.

„Rezultatul este că promovează conținut revoltător sau care stârnește emoții puternice — furie, teamă, dorință, poftă sau nesiguranță, orice ar fi — pentru că astfel continuăm să derulăm în jos.”

În timp ce studia acest subiect la universitate, activista Chanel Contos, care a contribuit la reformarea standardelor privind educația pentru consimțământul sexual în Australia, a lansat o campanie pentru schimbare.

„Fix Our Feeds” cerea dezactivarea implicită a algoritmilor de recomandare și posibilitatea ca utilizatorii să aleagă dacă vor să îi activeze.

Contos își imagina o revenire nostalgică la rețelele sociale de la începutul anilor 2010, când fluxurile erau pline de postări ale prietenilor sau ale persoanelor urmărite efectiv, iar conținutul afișat nu era nesfârșit.

Petiția ei a strâns peste 15.000 de semnături. Campania a primit și sprijinul a doi foști prim-miniștri, al mai multor parlamentari, al unor personalități influente, al susținătorilor sănătății mintale și al experților în siguranța online.

În septembrie, guvernul a declarat că a ascultat australienii care susținuseră campania lui Contos și a anunțat o versiune a propunerii: marile companii de tehnologie ar urma să introducă un comutator pentru algoritmi, fără să fie obligate să îl seteze automat pe poziția dezactivat.

„Nu este vorba despre a oferi guvernului controlul, ci despre a le oferi oamenilor controlul”, a spus Albanese.

„Dacă oamenii vor să deruleze încontinuu conținut deprimant... e în regulă, este alegerea lor.”

Măsura face parte din proiectul de lege privind obligația digitală de diligență a guvernului. Acesta ar impune serviciilor online — companiilor de socializare, site-urilor de jocuri, chatboturilor și altor platforme — să „asigure, în măsura în care este rezonabil și practic posibil, un mediu online sigur”.

Copiii ar trebui protejați de materiale și funcții de design „dăunătoare”, precum pornografia și conținutul care încurajează tulburările de alimentație sau atitudinile nocive față de femei. Adulții ar urma să fie protejați de materiale și comportamente „grav dăunătoare”, o categorie mult mai restrânsă, care include conținut ilegal. Încălcarea legii ar putea atrage amenzi de până la 100 de milioane de dolari australieni.

„Obligația digitală de diligență răspunde multor întrebări de tipul «dar ce se întâmplă cu...» legate de legea privind vârsta minimă pentru rețelele sociale, fiind mult mai cuprinzătoare: se aplică tuturor serviciilor online și transferă responsabilitatea de pe umerii victimelor pe cei ai marilor companii de tehnologie, care încearcă să câștige bani de pe urma utilizatorilor australieni”, a declarat ministrul Comunicațiilor, Anika Wells.

Reacția marilor companii de tehnologie a fost rezervată. Meta, Snap, TikTok, X și Google, compania care deține YouTube, au refuzat să comenteze public proiectul de lege.

În zilele de după anunț, șeful Instagram, Adam Mosseri, a susținut că fluxurile fără algoritmi ar însemna că utilizatorii ar vedea mai puține postări ale prietenilor. El a mai spus că nu crede că aplicația sa creează dependență, deși un juriu din Statele Unite a decis recent contrariul.

„Cred că amestecăm felul în care folosim în conversațiile obișnuite cuvântul «dependent» — de exemplu, «sunt dependent de serialul acesta și mă uit la multe episoade la rând» — cu dependența clinică”, a spus el la o întâlnire cu presa din Sydney.

Partidele de dreapta din Australia și administrația Trump susțin că propunerea privind algoritmii, precum și proiectul de lege mai amplu, riscă să ducă la moderarea excesivă a conținutului și la cenzură.

Susținătorii legii spun însă că acest lucru nu se va întâmpla, deoarece utilizatorii vor putea în continuare să urmărească pe cine doresc și să distribuie ce vor. „Dacă adulții ascultă podcasturi ale manosferei, dacă oamenii își exprimă opiniile despre guvern, creează meme sau vor să spună că aselenizarea a fost falsă, vor putea continua să facă toate acestea fără restricții”, a declarat Wells în această săptămână.

Propunerea pare să provoace mult mai puține controverse în rândul publicului și al experților în siguranță online decât interdicția din Australia privind accesul copiilor la rețelele sociale.

Întrebarea importantă este însă cum va aplica Australia această politică, în condițiile în care până acum a întâmpinat dificultăți în implementarea interdicției. Sondajele sugerează că majoritatea copiilor care foloseau rețelele sociale înainte de interdicție continuă să le folosească, iar până acum nu a fost aplicată nicio amendă.

Încercarea Uniunii Europene de a introduce măsuri de control al algoritmilor în 2023, după care platformele au lansat fluxuri cu postări doar de la conturile urmărite, oferă un exemplu de avertizare.

Companiile de socializare au indicat că puțini utilizatori folosesc funcții de siguranță și control de acest fel și invocă acest lucru drept dovadă că oamenii preferă produsele în forma lor actuală. Experții spun că există un motiv pentru această situație.

„Platformele fac ce le cere legea, dar într-un mod atât de greoi, încât utilizatorilor nu le place opțiunea și rămân la experiența implicită, bazată pe algoritmi”, a scris cercetătorul Chris Zomer, de la Centrul ARC de Excelență pentru Copilul Digital.

De exemplu, pe Instagram, atunci când dezactivezi algoritmul, nu poți vedea mesajele directe și nici nu poți accesa profilul și setările. Când ieși din aplicație, fluxul revine la varianta controlată de algoritm la următoarea deschidere.

Singurul loc în care aceste probleme nu există este Țările de Jos. Regulile au fost schimbate acolo după ce, anul trecut, o instanță olandeză a stabilit că Meta a încălcat Regulamentul privind serviciile digitale al Uniunii Europene.

Regulile pentru Australia nu sunt încă definitive, dar guvernul spune că fluxurile cu postări doar de la conturile urmărite nu trebuie să fie mai greu de folosit sau să aibă mai puține funcții. Setările algoritmilor trebuie să fie „evidente” și să nu se schimbe fără o „alegere explicită” a utilizatorului, nici măcar după ce acesta părăsește aplicația.

Încurajată de succesul din Australia, Contos își extinde acum campania la nivel internațional.

„Credem că Canada, Regatul Unit și Australia au o abordare foarte asemănătoare în privința siguranței online... Dacă aceste trei jurisdicții fac acest lucru, s-ar putea ajunge la un punct critic.”

Deși experiențe precum cele trăite de ei au contribuit la inspirarea reformelor, atât Flynn, cât și Varsha sunt într-o anumită măsură sceptici în privința lor.

Varsha spune că îi este greu să creadă că o țară precum Australia poate ține piept marilor companii de tehnologie, așa că nu știe dacă proiectul de lege privind obligația digitală de diligență va funcționa. Flynn spune că legislatorii ar trebui să fie „realiști” în privința potențialului comutatorului pentru algoritmi: „La urma urmei, folosim rețelele sociale ca formă de divertisment.”

Un sondaj realizat la începutul acestei luni a indicat că două treimi dintre tinerii din generația Z ar păstra algoritmii rețelelor sociale, deși aproape jumătate dintre australieni, în general, i-ar dezactiva.

Varsha recunoaște că probabil nu va folosi prea mult comutatorul pentru algoritmi, dar apreciază că va avea această opțiune.

„Într-o zi proastă, sunt încă vulnerabilă la toate lucrurile la care eram vulnerabilă la 17 ani. Să știu că pot renunța, dacă am o zi proastă, mă face să mă simt foarte bine.”

Dacă problemele prezentate în acest articol te afectează, poți discuta cu un specialist în sănătate sau cu o organizație care oferă sprijin persoanelor aflate în situații similare.