"Call of Duty" : une intelligence artificielle va modérer le chat vocal

(ETX Daily Up) - C'est une innovation dans le monde du gaming. Pour le lancement de "Call of Duty : Modern Warfare III", Activision a annoncé le lancement d'un système de modération basé sur une intelligence artificielle permettant de déceler des discours haineux et ce, directement depuis le chat vocal en temps réel.

Le 10 novembre, en plus de découvrir le dernier jeu vidéo "Call of Duty", les joueurs pourront également se confronter à un autre "player" : la modération du chat vocal développée par une intelligence artificielle. "Le nouveau système de modération du chat vocal de Call of Duty utilise ToxMod, la technologie de modération du chat vocal à base d'IA de Modulate, pour identifier en temps réel les discours toxiques, y compris les discours haineux, le langage discriminatoire, le harcèlement et plus encore, et pour les sanctionner.", a-t-on appris sur le blog officiel.

Lancé en collaboration avec Modulate, le système est censé garantir "une modération globale et en temps réel du chat vocal, à grande échelle".

Un premier test a été effectué dans sa version bêta en Amérique du Nord, le 30 août dernier, dans les jeux "Call of Duty: Modern Warfare II" et "Call of Duty: Warzone". Le reste du monde devra patienter jusqu'au 10 novembre. La modération pourra analyser les discussions dans le chat vocal en premier lieu en anglais. D'autres langues seront ajoutées, mais Activision n'a pas précisé quand elles seront intégrées. Seule l'Asie n'est pas concernée.

La modération actuelle permet de vérifier le bon respect des règles anti-toxicité dans 14 langues, aussi bien dans les discussions sur le chat que dans les noms des utilisateurs. Les joueurs peuvent aussi faire des signalements d'autres gamers dans le jeu. Une stratégie dont les très bons résultats se font attendre puisque seulement 20% des joueurs n'ont pas récidivé après avoir reçu un premier avertissement, selon les données de "Call of Duty" qui précise tout de même : "Ceux qui ont récidivé se sont vus infliger des sanctions de compte, qui comprennent, entre autres, des restrictions de fonctionnalités (telles que l'interdiction des conversations vocales et textuelles) et des restrictions de compte temporaires."

La plupart des plateformes utilisent l'IA pour modérer les commentaires et autres textes présents sur les contenus en permettant de bloquer certains mots choisis par l'utilisateur. Mais certains internautes redoublent d'inventivité pour contourner ce système.