Le jeu vidéo de tir Call Of Duty a commencé à utiliser l'intelligence artificielle pour détecter les propos haineux lors des matchs en ligne. Cet outil, qui surveillera le chat vocal pour détecter toute forme d'intimidation ou de harcèlement, sera intégré à Modern Warfare III, le prochain jeu de la série, lors de son lancement en novembre.L'éditeur Activision a déclaré que l'outil de modération, qui utilise une technologie d'apprentissage automatique, serait capable d'identifier les propos discriminatoires et le harcèlement en temps réel. L'apprentissage automatique permet à l'IA d'apprendre et de s'adapter à la volée sans instruction humaine explicite en utilisant des algorithmes et les données qui lui sont enseignées pour reconnaître des modèles. L'outil déployé dans Call Of Duty, appelé ToxMod, est fabriqué par une société appelée Modulate.
Michael Vance, directeur technique d'Activision, a déclaré qu'il contribuerait à faire du jeu "une expérience amusante, équitable et accueillante pour tous les joueurs".
Le chat vocal toxique est depuis longtemps un problème dans les jeux vidéo en ligne, les femmes et les minorités étant particulièrement visées. Le problème est exacerbé dans les jeux multijoueurs populaires en raison du grand nombre de joueurs, avec environ 90 millions de personnes jouant à Call Of Duty chaque mois.
Le déploiement commence avant le prochain jeu de la série
Activision a déclaré que ses outils existants, notamment la possibilité pour les joueurs de signaler d'autres joueurs et la surveillance automatique des chats textuels et des noms d'utilisateur offensants, avaient déjà permis d'imposer des restrictions de communication à un million de comptes. Le code de conduite de Call Of Duty interdit les brimades et le harcèlement, y compris les insultes fondées sur la race, l'orientation sexuelle, l'identité de genre, l'âge, la culture, la foi et le pays d'origine.
Vance a déclaré que ToxMod permettait d'intensifier considérablement les efforts de modération de l'entreprise en classant les comportements toxiques en fonction de leur gravité, avant qu'un humain ne décide s'il y a lieu d'agir. Les joueurs ne pourront pas se soustraire à l'écoute de l'IA, à moins de désactiver complètement le chat vocal dans le jeu. Cette fonctionnalité a été ajoutée aux jeux Modern Warfare II et Warzone de Call Of Duty, mais uniquement aux États-Unis pour l'instant. Le déploiement complet commencera lors du lancement du prochain volet, Modern Warfare III, le 10 novembre.
Voici l'annonce d'Activision :
Call of Duty fait un nouveau pas en avant dans son engagement à combattre les comportements toxiques et perturbateurs grâce à la modération du chat vocal en jeu, et ce, dès le lancement de Call of Duty : Modern Warfare III ce 10 novembre. Activision s'associera à Modulate pour offrir une modération globale et en temps réel du chat vocal, à grande échelle, dès le lancement de la prochaine superproduction Call of Duty cet automne.
Le nouveau système de modération du chat vocal de Call of Duty utilise ToxMod, la technologie de modération du chat vocal basée sur l'IA de Modulate, pour identifier en temps réel les discours toxiques, y compris les discours haineux, le langage discriminatoire, le harcèlement et bien plus encore, et pour les faire respecter. Ce nouveau développement renforcera les systèmes de modération actuels menés par l'équipe anti-toxicité de Call of Duty, qui comprend un filtrage textuel dans 14 langues pour le texte du jeu (chat et noms d'utilisateur) ainsi qu'un système robuste de signalement des joueurs dans le jeu.
Un premier déploiement bêta de la technologie de modération du chat vocal débutera en Amérique du Nord le 30 août dans les jeux existants, Call of Duty : Modern Warfare II et Call of Duty : Warzone™, suivi d'un lancement mondial complet (à l'exception de l'Asie) programmé pour Call of Duty : Modern Warfare III le 10 novembre. La prise en charge débutera en anglais et d'autres langues suivront ultérieurement.
Depuis le lancement de Modern Warfare II, la modération anti-toxicité existante de Call of Duty a restreint les discussions vocales et/ou textuelles de plus d'un million de comptes détectés comme ayant enfreint le code de conduite de Call of Duty. La technologie de filtrage des textes et des noms d'utilisateur, constamment mise à jour, a permis de mieux rejeter en temps réel les propos préjudiciables.
L'examen des données relatives aux mesures d'application annoncées précédemment montre que 20 % des joueurs n'ont pas récidivé après avoir reçu un premier avertissement. Ceux qui ont récidivé se sont vus infliger des pénalités de compte, qui comprennent, sans s'y limiter, des restrictions de fonctionnalités (telles que l'interdiction des conversations vocales et textuelles) et des restrictions de compte temporaires. Cet impact positif s'inscrit dans notre stratégie visant à travailler avec les joueurs en leur fournissant un retour d'information clair sur leur comportement.
Dans le cadre de la collaboration avec nos studios partenaires, l'équipe anti-toxicité a également contribué à ajouter le signalement malveillant à la politique de sécurité et d'application de Call of Duty afin de lutter contre l'augmentation des faux signalements dans le jeu.
Ce type d'engagement de nos joueurs envers le jeu et la communauté est incroyablement important et nous sommes reconnaissants à notre communauté pour ses efforts dans la lutte contre les comportements perturbateurs. Nous demandons aux joueurs de Call of Duty de continuer à signaler tout comportement perturbateur qu'ils rencontrent, car nous nous efforçons de réduire et de limiter l'impact des comportements perturbateurs dans Call of Duty.
Les équipes de Call of Duty se consacrent à la lutte contre la toxicité dans nos jeux. L'utilisation de nouvelles technologies, le développement de partenariats essentiels et l'évolution de nos méthodologies sont des éléments clés de cet engagement permanent. Comme toujours, nous sommes impatients de travailler avec notre communauté pour continuer à rendre Call of Duty équitable et amusant pour tous.
Et vous ?
Pensez-vous qu'il faut modérer ou pas les sessions de chat des jeux vidéos ? Pensez-vous que l'utilisation de l'IA pour la modération est crédible ou pertinente ?Voir aussi :
Activision Blizzard annonce avoir banni plus de 14 000 comptes de tricheurs de Call of Duty en 24 heures,L'entreprise a apporté des améliorations à son système anti-triche "Ricochet"
GPT-4 peut-il résoudre le problème de la modération du contenu ? OpenAI affirme que GPT-4 permettrait de réagir plus rapidement et réduirait la charge mentale des modérateurs humains Microsoft est prêt à faire des concessions massives sur le cloud pour obtenir l'accord du Royaume-Uni sur l'acquisition d'Activision Blizzard 
