Roblox : l’IA réécrit les messages toxiques en temps réel

Roblox a annoncé ce jeudi le déploiement d’une nouvelle fonctionnalité basée sur l’intelligence artificielle capable de réécrire les messages en temps réel. L’objectif est de remplacer automatiquement les termes bannis ou inappropriés par des formulations respectueuses, plutôt que de simplement censurer le contenu.

Jusqu’à présent, le système de filtrage de la plateforme se contentait de remplacer les mots interdits par des symboles « #### », une pratique qui nuisait souvent à la fluidité et à la compréhension des échanges entre les joueurs. Avec ce nouveau dispositif, la plateforme entend maintenir la cohésion des conversations tout en garantissant un environnement civilisé.

Une modération plus fluide pour les joueurs

Désormais, lorsqu’un utilisateur envoie un message contenant un langage inapproprié, l’IA intervient pour le reformuler. Par exemple, une insulte comme « Hurry TF up! » sera automatiquement convertie en « Hurry up! ». Pour assurer la transparence, les autres participants au chat sont informés que le message a été modifié par le système.

« Le chat est au cœur de la manière dont les utilisateurs se connectent, collaborent et jouent sur Roblox », a souligné Rajiv Bhatia, vice-président des produits utilisateur et découverte, dans un communiqué officiel. Selon lui, cette approche réduit les frictions tout en maintenant les standards de sécurité de la communauté.

Renforcement global de la sécurité

Bien que cette fonctionnalité de réécriture vise à fluidifier les interactions, Roblox précise que ses systèmes de sécurité habituels restent en vigueur pour les comportements plus graves. Cette technologie est d’ores et déjà compatible avec toutes les langues prises en charge par les outils de traduction automatique de la plateforme.

Parallèlement à cette nouveauté, la plateforme a musclé ses capacités de détection :

• Amélioration de la reconnaissance du « leetspeak » (écriture utilisant des chiffres pour remplacer des lettres).
• Détection accrue des tentatives sophistiquées de contournement des filtres.
• Réduction par 20 des faux négatifs concernant le partage ou la demande d’informations personnelles.

Cette initiative intervient dans un contexte de pression accrue pour l’entreprise, après l’introduction récente de la vérification faciale obligatoire pour accéder aux chats. Ces mesures répondent à une vague de poursuites judiciaires engagées par les procureurs généraux de plusieurs États américains, dont le Kentucky, le Texas et la Louisiane, faisant suite à des inquiétudes sur la protection des mineurs face aux risques de prédateurs et de contenus explicites.