Roblox introduce un sistema basato sull’IA per contrastare il linguaggio inappropriato

Roblox sta introducendo un sistema basato sull’IA per contrastare il linguaggio inappropriato all’interno delle chat, modificando e sostituendo frasi e parole che violano le politiche della piattaforma in tema di comunicazione.

A differenza dei filtri utilizzati finora, questo meccanismo non si limita a bloccare i termini vietati, bensì “addolcisce” le frasi mantenendone intatto il senso, effettuando di fatto una riformulazione istantanea che non incide sulla qualità dell’esperienza di gioco.

Secondo quanto spiegato da Rajiv Bathia, chief safety officer di Roblox, il sistema che verrà introdotto gradualmente provvederà ad esempio a modificare frasi come “”Hurry TF up” in “Hurry up!”, con tanto di avviso che il messaggio è stato editato e consentendo al mittente di vedere quale parte del testo è stata modificata.

Ad ogni modo, l’adozione di questo sistema non andrà a eliminare le sanzioni previste dal regolamento, il che significa che chi continua a usare un linguaggio offensivo potrà comunque essere penalizzato.

Un percorso non semplice

Roblox ha più giocatori attivi di Steam, PlayStation e Fortnite messi insieme, il che restituisce un’idea abbastanza precisa di quanto possa essere complesso regolamentare una community di tali dimensioni, specie attraverso interventi che in passato non si è pensato di effettuare.

Secondo Bathia, “man mano che questi sistemi si espandono, creano un circolo virtuoso di civiltà in cui il feedback in tempo reale aiuta gli utenti a imparare e ad adottare i nostri Standard della Community.” Insomma, il meccanismo avrà anche uno scopo educativo.

La funzione di riformulazione è stata introdotta nelle chat tra utenti con età verificata e appartenenti a fasce d’età simili, ed è disponibile in tutte le lingue supportate dal sistema di traduzione automatico della piattaforma.