Roblox lansează un chat cu inteligență artificială care reformulează în timp real limbajul interzis în mesaje respectuoase

Roblox introduce o funcție nouă de reformulare a mesajelor în timp real, bazată pe inteligență artificială, care înlocuiește automat cuvintele interzise cu un limbaj mai respectuos, a anunțat compania joi.

Noua funcție merge dincolo de actualul filtru de text al platformei, care până acum înlocuia pur și simplu cuvintele și expresiile interzise cu simbolul „#”. Atunci când utilizatorii vedeau șiruri de „####”, conversațiile erau fragmentate și deveneau greu de urmărit.

Acum, în loc să afișeze doar simboluri hash, textul filtrat va fi reformulat într-un limbaj mai politicos, dar care rămâne cât mai aproape de intenția inițială a utilizatorului.

De exemplu, un mesaj de tipul „Hurry TF up!” ar fi apărut anterior ca „####”, însă de acum va fi transformat în „Hurry up!”. Toți participanții la chat sunt anunțați că mesajul a fost reformulat pentru a menține un ton civilizat în conversație, explică Roblox.

„Chat este esențial pentru modul în care oamenii se conectează, se coordonează și se joacă pe Roblox”, a declarat Rajiv Bhatia, vicepreședinte User and Discovery Product la Roblox, într-un comunicat. „Reformularea în timp real ajută la menținerea jocului și a discuțiilor pe făgașul lor, ghidând în același timp limbajul către ceea ce este adecvat. Această abordare reduce fricțiunile din chat, dar păstrează standardele care ne ajută să menținem comunitatea civilizată.”

Compania subliniază că, deși reformularea limitează o parte din perturbările din chat, sistemul de siguranță rămâne pe deplin activ pentru comportamentele mai grave.

Noua funcție este compatibilă cu toate limbile disponibile în prezent prin instrumentele de traducere automată ale Roblox.

In paralel, platforma îmbunătățește și sistemul de filtrare a textului pentru a detecta mai multe variații ale limbajului interzis. Roblox indică faptul că primele rezultate arată o capacitate sporită de identificare a „leetspeak” și a tentativelor mai sofisticate de a ocoli filtrele. Datorită acestor îmbunătățiri, compania a reușit să reducă de 20 de ori numărul de situații în care sistemul nu detecta partajarea sau solicitarea de informații personale.

Anunțul de joi vine la scurt timp după ce Roblox a introdus verificarea facială obligatorie pentru accesul la chaturile de pe platformă, în contextul unui val de procese legate de siguranța copiilor, intentate de procurorii generali din state precum Texas, Kentucky și Louisiana, dar și din alte jurisdicții. Procesele au fost depuse ca reacție la rapoarte conform cărora Roblox expunea utilizatorii tineri unor riscuri grave, precum groomingul și conținutul explicit.