Instagram va trimite alerte părinților când adolescenții caută conținut despre suicid și auto-vătămare, măsură criticată de experți că „ar putea face mai mult rău decât bine”

Părinții care folosesc instrumentele de supraveghere pentru copii din Instagram vor primi în curând alerte dacă adolescenții lor caută în mod repetat pe platformă termeni legați de suicid sau auto-vătămare.

Este pentru prima dată când compania-mamă Meta va alerta în mod proactiv părinții despre căutările copiilor lor pe Instagram privind conținut dăunător. Până acum, platforma se concentra mai ales pe blocarea acestor căutări și pe direcționarea utilizatorilor către ajutor extern.

Părinții și adolescenții înscriși în experiența „Teen Accounts” de pe Instagram, creată pentru a-i proteja de expunerea la conținut nociv, vor fi anunțați despre noile alerte începând de săptămâna viitoare.

Cu toate acestea, organizația de prevenire a suicidului Molly Rose Foundation a criticat dur aceste măsuri, avertizând că ele „ar putea face mai mult rău decât bine”.

„Acest anunț stângaci este plin de riscuri și ne îngrijorează faptul că dezvăluirile forțate ar putea face mai mult rău decât bine”, a declarat directorul executiv al organizației, Andy Burrows.

Fundația a fost înființată de familia lui Molly Russell, care și-a luat viața în 2017, la vârsta de 14 ani, după ce a vizionat conținut despre auto-vătămare și suicid pe mai multe platforme, inclusiv Instagram.

Burrows a subliniat că „fiecare părinte ar vrea să știe dacă propriul copil trece printr-o perioadă dificilă, dar aceste notificări firave îi vor lăsa pe părinți panicați și nepregătiți pentru conversațiile sensibile și dificile care vor urma”.

Meta susține că alertele trimise părinților despre căutările intense, într-un interval scurt de timp, legate de suicid și auto-vătămare pe Instagram vor fi însoțite și de resurse oferite de experți. Acestea îi vor ajuta pe părinți să gestioneze discuțiile delicate cu copiii lor.

În schimb, Burrows a invocat cercetări anterioare ale Fundației, care arată că Instagram continuă să recomande în mod „activ” conținut dăunător despre depresie, suicid și auto-vătămare către „tineri vulnerabili”.

„Responsabilitatea ar trebui să fie aceea de a aborda aceste riscuri, nu de a face încă un anunț, cinic cronometrat, care pasează răspunderea către părinți”, a adăugat el.

Meta a contestat concluziile organizației publicate în septembrie, susținând că acestea „denaturează eforturile noastre de a împuternici părinții și de a proteja adolescenții”.

Sistemul de alerte va fi introdus mai întâi în Regatul Unit, Statele Unite, Australia și Canada. Ulterior, până spre finalul anului, va fi extins treptat și în alte țări.

Alertele pentru conturile de tip Teen Account de pe Instagram sunt concepute pentru a-i informa pe părinți atunci când apare o schimbare bruscă în comportamentul sau obiceiurile de căutare ale copilului pe platformă.

Meta afirmă că aceste funcții se bazează pe mecanismele deja existente de protecție pentru adolescenți, cum ar fi ascunderea conținutului legat de suicid sau auto-vătămare și blocarea căutărilor pentru materiale considerate dăunătoare sau periculoase.

Alertele vor fi transmise părinților prin e-mail, mesaj text, WhatsApp sau direct în aplicația Instagram, în funcție de datele de contact pe care le are Meta pentru fiecare familie.

Compania mai spune că noul sistem de notificări, care se bazează pe analiza modelelor de căutare ale utilizatorilor, ar putea uneori să alerteze părinții chiar și atunci când nu există un motiv real de îngrijorare și că va „înclina balanța în favoarea precauției”.

În lunile următoare, Meta intenționează să extindă aceste alerte și la situațiile în care adolescenții discută despre auto-vătămare și suicid cu chatboturi AI pe Instagram, deoarece copiii „se îndreaptă tot mai mult către inteligența artificială pentru sprijin”.

Companiile de social media se confruntă cu o presiune tot mai mare din partea guvernelor din întreaga lume pentru a-și face platformele mai sigure pentru copii.

La începutul anului, Australia a interzis accesul la rețelele sociale pentru copiii sub 16 ani, iar alte state, precum Spania, Franta și Regatul Unit, analizează măsuri similare.

În paralel, autoritățile de reglementare și legiuitorii urmăresc cu atenție practicile marilor companii tech în raport cu utilizatorii tineri.

Directorul general al Meta, Mark Zuckerberg, și șeful Instagram, Adam Mosseri, au apărut recent în instanță în Statele Unite pentru a apăra compania împotriva acuzațiilor că ar fi vizat în mod deliberat utilizatori minori.