Un allié de l'IA pour lutter contre l'intimidation dans les mondes virtuels

Saïman Chow

Dans tout univers fictif, la distinction entre l'antagonisme ludique et le harcèlement sérieux peut être difficile à discerner. Les injures entre amis qui jouent ensemble à un jeu vidéo sont souvent une forme de camaraderie. Entre étrangers, cependant, des mots similaires prennent une qualité différente, plus gênante. Être capable de faire la distinction entre les deux est crucial pour tout fabricant de jeux vidéo qui souhaite favoriser une communauté accueillante.

Spirit AI espère aider les développeurs à soutenir les joueurs et à décourager les comportements d'intimidation avec un système de détection et d'intervention d'abus appelé Ally. Le logiciel surveille les interactions entre les joueurs - ce que les gens se disent et comment ils se comportent - à travers les actions disponibles dans un jeu ou une plateforme sociale. Il est capable de détecter le harcèlement verbal ainsi que la provocation non verbale, par exemple, un joueur traquant l'avatar d'un autre ou abusant des outils de signalement.

Nous examinons des modèles d'interaction, combinés à des classificateurs en langage naturel, plutôt que de nous fier à une liste de mots-clés individuels, explique Ruxandra Dariescu, l'une des développeurs d'Ally. Le harcèlement est un problème nuancé.

Lorsqu'Ally identifie un comportement potentiellement abusif, il vérifie si l'agresseur potentiel et l'autre joueur ont déjà eu des interactions. Là où Ally diffère du logiciel de modération existant, c'est qu'au lieu de simplement envoyer une alerte aux développeurs du jeu, il est capable d'envoyer un personnage virtuel contrôlé par ordinateur pour vérifier avec le joueur - un personnage qui, grâce aux outils en langage naturel de Spirit AI, est capable de converser dans le ton et le style du jeu (voir A Video-Game Algorithm to Solve Online Abuse ).

Histoire connexe

Lire la suite Comment une équipe de psychologues et de scientifiques de Riot Games dévoile le secret pour éliminer les abus dans un jeu vidéo en ligne.

Le bot d'Ally pourrait dire : J'ai remarqué que vous et le joueur 42 semblez être des étrangers. Ils vous ont peut-être dit quelque chose d'inapproprié, alors je voulais juste vérifier si vous allez bien ? Le joueur est alors en mesure de répondre au bot, dit Dariescu. Si l'interaction est rejetée comme une plaisanterie amicale, le système l'enregistre et met à jour ses règles afin qu'il n'intervienne pas sur un comportement similaire à l'avenir. Si l'utilisateur se sent abusé, le système intervient auprès du coupable.

Ally est compatible avec tous les jeux en ligne, et Spirit AI travaille sur l'ajout de fonctionnalités au comportement de la police dans les jeux de réalité virtuelle (voir The War on the Disturbingly Real Trolls in Virtual Reality). L'outil peut être configuré de différentes manières pour interagir avec les joueurs et effectuer différents types d'actions. Spirit AI voit Ally comme un moyen d'augmenter l'équipe de gestion de la communauté d'un jeu, qui peut surveiller l'activité dans un tableau de bord.

La société, qui a été officiellement créée en 2016 et compte actuellement 15 employés, ne divulguera pas avec quels développeurs de jeux elle travaille actuellement, mais le logiciel a attiré l'attention dans le monde du jeu. Au niveau le plus simple, les outils de gestion de communauté pris en charge par l'IA peuvent étendre la portée de l'équipe, explique Imre Jele, un concepteur chevronné de vastes jeux multijoueurs en ligne tels que RuneScape. Mais ce qui me passionne le plus, ce sont les systèmes d'IA qui vont au-delà de l'identification et de la punition des comportements qui enfreignent les règles. En fin de compte, l'objectif de ces membres de l'équipe d'IA devrait être de sortir du maintien de l'ordre et de façonner des interactions positives et de bâtir des communautés plus saines.

Histoire connexe

Lire la suite Lorsque vous vous sentez vraiment à l'intérieur d'un corps virtuel, il est important de protéger votre espace personnel.

Spirit a certainement l'intention que le logiciel offre plus qu'une simple force de police numérisée pouvant être convoquée dans des jeux en ligne. Nous avons identifié le potentiel de cette technologie non seulement pour prévenir les mauvais comportements, mais aussi pour encourager les bons comportements prosociaux, déclare Dariescu. Le logiciel pourrait également utiliser l'écoute clandestine ambiante pour identifier les problèmes plus larges que les joueurs pourraient avoir avec la conception d'un jeu, fournissant des informations au développeur sur la façon dont l'expérience globale du joueur pourrait être améliorée.

Il existe cependant des limites en ce qui concerne les interventions de l'IA dans les cas de harcèlement, selon Jele. De nombreuses interactions entre la gestion de la communauté et les équipes de soutien aux joueurs nécessitent une profonde empathie et sympathie, dit-il : Les joueurs ont soutenu les développeurs avec leur argent et méritent les meilleurs soins possibles, que seuls les humains peuvent fournir pour le moment.

cacher