Șeful Instagram, pus la zid în instanță pentru întârzierea de ani de zile a filtrului de nuditate destinat protejării adolescenților

Procurorii implicați într-un proces care vizează dacă aplicațiile de rețele sociale, precum Instagram, sunt adictive și dăunătoare au dorit să afle de ce a durat atât de mult până când Meta a introdus instrumente de siguranță de bază, cum ar fi un filtru de nuditate pentru mesajele private trimise adolescenților. În aprilie 2024, Meta a introdus o funcție care estompează automat imaginile explicite din mesajele directe (DM) de pe Instagram, deși compania ar fi înțeles problema cu aproape șase ani mai devreme.

Într-o declarație recent desecretizată, depusă într-un proces federal, șeful Instagram, Adam Mosseri, a fost întrebat despre un schimb de emailuri din august 2018 cu vicepreședintele Meta și responsabilul-șef pentru securitatea informațiilor, Guy Rosen. În acea corespondență, Mosseri menționa că lucruri „îngrozitoare” se pot întâmpla prin mesajele private de pe Instagram, cunoscute drept DM-uri. Avocatul reclamanților a precizat că acele lucruri îngrozitoare pot include și trimiterea de „dick pics”, iar Mosseri a fost de acord.

Meta a fost solicitată pentru comentarii.

Totuși, executivul Meta a respins linia de întrebări care sugera că firma ar fi trebuit să îi anunțe explicit pe părinți că sistemul său de mesagerie nu este monitorizat, în afară de înlăturarea CSAM (Child Sexual Abuse Material).

„I think that it’s pretty clear that you can message problematic content in any messaging app, whether it’s Instagram or otherwise”, a declarat Mosseri. El a explicat că firma încearcă să echilibreze interesul oamenilor pentru confidențialitate cu propriul interes pentru siguranță a utilizatorilor.

Declarațiile au scos la iveală și noi statistici despre activitățile dăunătoare pe Instagram. Astfel, 19,2% dintre respondenții cu vârste între 13 și 15 ani au spus că au văzut nuditate sau imagini sexuale pe Instagram pe care nu doreau să le vadă. În plus, 8,4% dintre adolescenții din aceeași grupă de vârstă au declarat că au văzut pe platformă, în ultimele șapte zile de utilizare, persoane care se rănesc sau amenință că o vor face.

Filtrul pentru nuditate este doar una dintre numeroasele actualizări introduse de Instagram în ultimii ani pentru a proteja adolescenții. Totuși, procurorii se concentrează mai mult pe întârzierea măsurilor, decât pe întrebarea dacă aplicația este acum mai sigură pentru minori.

Mosseri a fost chestionat și pe alte subiecte. De exemplu, a fost discutat un email din 2017, trimis de un intern Facebook, în care acesta spunea că își dorește să identifice utilizatorii „dependenți” de Facebook și să vadă dacă există modalități prin care aceștia pot fi ajutați.

Lanțul de emailuri din 2018 este folosit ca un exemplu că Meta era conștientă de riscurile la care sunt expuși minorii, însă compania a așteptat până în 2024 pentru a lansa un produs care să abordeze concret problema imaginilor sexuale trimise adolescenților. Aceasta include și imaginile trimise de adulți care s-ar putea implica în grooming, un proces prin care un adult câștigă treptat încrederea unui minor pentru a-l manipula sau exploata sexual.

Depoziția lui Mosseri a fost oferită în cadrul unuia dintre procesele tot mai numeroase care urmăresc tragerea la răspundere a marilor companii tehnologice pentru prejudiciile aduse adolescenților. Acest caz, judecat la Curtea Districtuală a SUA din Districtul de Nord al Californiei, reunește reclamanți care susțin că platformele de socializare sunt defectuoase deoarece sunt concepute să maximizeze timpul petrecut în fața ecranului, ceea ce încurajează comportamente adictive în rândul tinerilor. Printre pârâți se numără Meta, Snap, TikTok și YouTube (Google).

Procese similare se desfășoară și la Curtea Superioară a Comitatului Los Angeles, precum și în statul New Mexico.

Avocații implicați în aceste cauze vor să demonstreze că marile companii tech au pus pe primul plan creșterea numărului de utilizatori și intensificarea interacțiunilor pe platforme, în loc să acorde prioritate posibilelor efecte nocive asupra celor mai tineri dintre utilizatori.

Desfășurarea acestor procese are loc pe fondul unui număr tot mai mare de legi care restricționează utilizarea rețelelor sociale de către adolescenți, atât în mai multe state americane, cât și în alte țări.