WhatsApp introduce funcția Scam Alert: inteligența artificială îți va semnala tentativele de fraudă direct pe telefon

Noua funcție va fi opțională și va folosi un model de învățare automată care rulează direct pe telefon, pentru a identifica mesajele de pe WhatsApp care ar putea ascunde tentative de fraudă.

Cu peste trei miliarde de utilizatori activi în fiecare lună la nivel mondial, WhatsApp a devenit un teren propice pentru escrocherii, mai ales că infractorii își schimbă constant metodele. Pentru a-și proteja utilizatorii, aplicația deținută de Meta a început să testeze o funcție nouă, menită să îi avertizeze cu privire la mesajele suspecte, care ar putea reprezenta tentative de fraudă, și să îi ajute să recunoască mai ușor încercările de manipulare.

Funcția, numită Scam Alert, este opțională și folosește un model de învățare automată care funcționează pe dispozitivul utilizatorului, pentru a identifica mesajele de pe WhatsApp care ar putea fi frauduloase, a transmis Meta. Instrumentul este testat momentan la scară limitată, înainte de a deveni disponibil pentru toți utilizatorii WhatsApp.

La sfârșitul lunii iunie, WhatsApp a anunțat că utilizatorii nu vor mai trebui să își comunice numerele de telefon pentru a discuta cu alte persoane. În schimb, ei vor putea alege nume de utilizator unice, pe care să le distribuie celorlalți. Compania a precizat că această schimbare are scopul de a proteja confidențialitatea numărului de telefon. Decizia a ridicat însă și întrebări legate de fraude. Mulți s-au întrebat dacă escrocii ar putea folosi numele de utilizator pentru a se da drept alte persoane, branduri sau figuri publice. Pentru a reduce aceste riscuri, platforma dezvoltă în prezent funcția Scam Alert.

Scam Alert este un nou instrument WhatsApp aflat în faza de testare, care are scopul de a ajuta utilizatorii să identifice posibile tentative de fraudă pe platformă și să reacționeze mai rapid la acestea.

Meta a precizat că progresele recente în domeniul modelelor de învățare automată permit acum clasificarea mai precisă a textelor direct pe dispozitivele mobile.

Cum funcționează?

După ce utilizatorul activează funcția, Scam Alert descarcă pe dispozitiv un model de învățare automată. Acesta analizează mesajele primite de la persoane care nu se află în lista de contacte și verifică dacă acestea corespund unor tipare cunoscute de fraudă.

Modelul este antrenat pe baza tiparelor identificate în conversații frauduloase, despre care utilizatorii au trimis rapoarte către Meta. Sistemul analizează structura conversației și anumite elemente de limbaj, pentru a estima probabilitatea ca mesajul să reprezinte o tentativă de fraudă.

„Niciun conținut nu este raportat automat către WhatsApp, Meta sau către o terță parte”, a transmis Meta.

Ce se întâmplă dacă sistemul detectează o posibilă fraudă?

Dacă modelul identifică un mesaj ca fiind o posibilă tentativă de fraudă, utilizatorul vede un avertisment în conversație. Cealaltă persoană nu vede acest avertisment. Utilizatorul poate apoi să decidă cum procedează mai departe. Poate bloca persoana respectivă, poate raporta conversația sau poate continua discuția în ciuda avertismentului.

Ce se întâmplă dacă utilizatorul consideră mesajul sigur?

Dacă utilizatorul consideră că sistemul a semnalat greșit conversația, poate marca acel chat drept sigur. Avertismentul va dispărea, iar Scam Alert nu va mai semnala acea conversație în viitor, chiar dacă mesajele continuă.

Utilizatorul care declară că are încredere într-o conversație poate alege și să trimită către WhatsApp ultimele cinci mesaje primite, pentru a ajuta compania să îmbunătățească precizia funcției și capacitatea de recunoaștere a tiparelor de fraudă.

Sistemul raportează automat tentativele de fraudă?

Nu. Meta a precizat că Scam Alert nu va trimite automat rapoarte.

„WhatsApp nu poate transmite datele unui utilizator fără o acțiune din partea acestuia. Conținutul mesajelor sau informația că sistemul a detectat o posibilă fraudă ajung pe serverele noastre doar dacă utilizatorul alege în mod explicit să raporteze situația. Acest lucru respectă modul în care funcționează în prezent sistemul de raportare pe WhatsApp”, a transmis compania.

Utilizatorii pot dezactiva funcția?

Da. Scam Alert este un instrument controlat de utilizator. Acesta îl poate activa sau dezactiva oricând, din setările aplicatiei, fără alte consecințe asupra contului.

Modelul de inteligență artificială și datele analizate rămân pe dispozitiv?

Da. Modelul și datele mesajelor pe care le analizează rămân pe dispozitivul utilizatorului.

„Toată analiza are loc pe dispozitiv, iar conținutul mesajelor nu părăsește telefonul pentru a fi clasificat”, a precizat Meta.

Când va fi disponibilă funcția pentru toți utilizatorii WhatsApp?

Scam Alert este testată în prezent la scară limitată, în versiunea Beta a aplicației. Meta nu a anunțat deocamdată data la care funcția va deveni disponibilă pentru toți utilizatorii, însă testele curente vor influența calendarul de lansare.

„Escrocii își vor adapta în continuare metodele. Și noi vom face același lucru pentru a rămâne cu un pas înaintea lor. Primim cu interes feedback din partea utilizatorilor, a cercetătorilor în domeniul securității și a comunității de specialiști în securitate”, a transmis Meta.