Instagram va trimite alerte părinților când adolescenții caută repetat termeni despre suicid sau automutilare

Instagram va începe să‑i alerteze pe părinți atunci când adolescentul lor încearcă în mod repetat, într‑un interval scurt de timp, să caute termeni legați de suicid sau automutilare, a anunțat compania joi. Noile alerte vor fi lansate în săptămânile următoare pentru părinții care sunt înscriși în sistemul de supraveghere parentală de pe Instagram.

Platforma socială deținută de Meta spune că deja blochează utilizatorii să caute conținut despre suicid și automutilare. Noile notificări sunt însă concepute pentru a se asigura că părinții află atunci când adolescentul lor încearcă în mod repetat să găsească acest tip de conținut, astfel încât să poată interveni și să‑l sprijine.

Căutările care pot declanșa o alertă includ expresii care încurajează suicidul sau automutilarea, formulări ce indică faptul că un adolescent ar putea fi în pericol să își facă rău, precum și termeni direcți precum „suicid” sau „self-harm”.

Instagram precizează că părinții vor primi alertele prin e‑mail, SMS sau WhatsApp, în funcție de datele de contact furnizate, împreună cu o notificare în aplicație. Această notificare va conține resurse menite să îi ajute pe părinți să abordeze discuțiile cu adolescentul lor într‑un mod informat și sensibil.

Decizia vine în contextul în care Meta și alte mari companii tech se confruntă în prezent cu mai multe procese, prin care se încearcă tragerea la răspundere a giganților rețelelor sociale pentru prejudiciile aduse adolescenților. Acuzațiile vizează efecte negative asupra sănătății mintale și a comportamentului online al tinerilor.

În timpul audierilor dintr‑un proces aflat pe rolul Curții Districtuale a Statelor Unite pentru Districtul de Nord al Californiei, șeful Instagram, Adam Mosseri, a fost interogat de acuzare în cadrul unui dosar privind dependența de rețelele sociale. El a fost criticat pentru întârzierea introducerii unor funcții elementare de siguranță, inclusiv un filtru de nuditate pentru mesajele private trimise adolescenților.

În plus, în cadrul depozițiilor dintr‑un alt proces, desfășurat la Curtea Superioară a Comitatului Los Angeles, a ieșit la iveală că un studiu intern realizat la Meta a constatat că supravegherea parentală și instrumentele de control au avut un impact redus asupra utilizării compulsive a rețelelor sociale de către copii. Studiul a arătat și că minorii care trec prin evenimente de viață stresante sunt mai predispuși să aibă dificultăți în a‑și regla în mod adecvat timpul și modul de utilizare a platformelor sociale.

Având în vedere procesele în curs, care acuză compania că nu reușește să protejeze suficient adolescenții pe platformele sale, momentul introducerii acestor noi alerte nu este deloc surprinzător. Aceste măsuri par să fie parte dintr‑un efort mai larg de a demonstra preocupare sporită pentru siguranța tinerilor.

Compania subliniază că va încerca să evite trimiterea inutilă a notificărilor, deoarece utilizarea lor excesivă le‑ar putea diminua eficiența generală. Scopul este să fie semnalate cazurile cu adevărat îngrijorătoare, dar să se mențină, totodată, o abordare preventivă.

„In working to strike this important balance, we analyzed Instagram search behavior and consulted with experts from our Suicide and Self-Harm Advisory Group”, a explicat Instagram într‑o postare pe blog. „We chose a threshold that requires a few searches within a short period of time, while still erring on the side of caution. While that means we may sometimes notify parents when there may not be a real cause for concern, we feel — and experts agree — that this is the right starting point, and we’ll continue to monitor and listen to feedback to make sure we’re in the right place.”

Alertele vor fi introduse săptămâna viitoare în Statele Unite, Regatul Unit, Australia și Canada, urmând să fie extinse în alte regiuni mai târziu în cursul acestui an. Extinderea se va face treptat, pe măsură ce compania evaluează eficiența și impactul sistemului în primele piețe.

Pe viitor, Instagram intenționează să lanseze și notificări speciale atunci când un adolescent încearcă să antreneze sistemul de inteligență artificială al aplicației în conversații despre suicid sau automutilare. Astfel, monitorizarea va viza nu doar căutările clasice, ci și dialogurile cu instrumentele AI integrate în platformă.