211service.com
Un algorithme de jeu vidéo pour résoudre les abus en ligne
Comme de nombreux espaces en ligne, League of Legends, le jeu vidéo en ligne le plus joué au monde aujourd'hui, est un terreau fertile pour les propos et les comportements abusifs. Favorisée par l'anonymat et amplifiée dans le creuset chauffé d'un sport d'équipe compétitif, cette conduite a été un tel problème pour son créateur, Riot Games, que la société emploie désormais une équipe dédiée de scientifiques et de concepteurs pour trouver des moyens d'améliorer les interactions entre les jeux. joueurs.
Au cours des dernières années, l'équipe a expérimenté une multitude de systèmes et de techniques, soutenus par l'apprentissage automatique, conçus pour surveiller la communication entre les joueurs, punir les comportements négatifs et récompenser les comportements positifs. Les résultats ont été surprenants, déclare Jeffrey Lin, concepteur principal des systèmes sociaux chez Riot Games. Le logiciel a suivi plusieurs millions de cas de comportements abusifs présumés. Quatre-vingt-douze pour cent des joueurs qui ont été surpris en train d'utiliser un langage abusif envers les autres n'ont pas récidivé. Lin, qui est un neuroscientifique cognitif, pense que les techniques de l'équipe peuvent être appliquées en dehors du contexte du jeu vidéo. Il pense que Riot a peut-être créé une sorte d'antidote contre la toxicité en ligne, quel que soit l'endroit où elle se produit.
Le projet a commencé il y a plusieurs années lorsque l'équipe a introduit un système de gouvernance baptisé, en accord avec le thème fantastique du jeu, le Tribunal. Le jeu identifierait les cas potentiels de langage abusif et créerait un dossier de l'interaction. Ces fichiers ont ensuite été présentés à la communauté de joueurs du jeu (environ 67 millions d'utilisateurs uniques), qui ont été invités à consulter les journaux de discussion en jeu et à voter pour savoir s'ils considéraient le comportement comme acceptable. Dans l'ensemble, le système était très précis, dit Lin. En effet, 98 % des verdicts de la communauté correspondaient à ceux de l'équipe interne de Riot.
Plusieurs millions de cas ont été traités de cette manière quelque peu laborieuse. Bientôt, Lin et l'équipe ont commencé à voir des modèles dans le langage utilisé par les joueurs toxiques. Pour aider à optimiser le processus, ils ont décidé d'appliquer des techniques d'apprentissage automatique aux données. Il s'est avéré extrêmement efficace pour segmenter le langage négatif et positif dans les 15 langues officielles prises en charge par League, déclare Lin.
La nouvelle version du système, désormais contrôlée par la technologie plutôt que par d'autres joueurs, a rendu plus efficace la rétroaction et l'imposition de conséquences en cas de comportement toxique dans le jeu. Il peut désormais fournir des commentaires aux joueurs en cinq minutes, alors qu'auparavant, cela pouvait prendre jusqu'à une semaine.
Lin dit que le système a considérablement amélioré ce que la société appelle les taux de réforme. Un joueur qui a déjà reçu une pénalité, telle qu'une suspension des matchs classés, est considéré comme réformé s'il évite les pénalités suivantes pendant un certain temps. Lorsque nous avons ajouté de meilleurs commentaires sur les punitions et inclus des preuves telles que des journaux de chat pour la punition, les taux de réforme sont passés de 50% à 65%, dit-il. Mais lorsque le système d'apprentissage automatique a commencé à fournir une rétroaction beaucoup plus rapide avec les preuves, les taux de réforme ont atteint un niveau record de 92 %.
L'un des défis auxquels le système est confronté est le discernement du contexte. Comme dans tout sport d'équipe, les joueurs établissent souvent une camaraderie par des plaisanteries ou des sarcasmes qui, dans un autre contexte, pourraient être considérés comme méchants ou agressifs. Une machine ne parvient généralement pas à attraper le sarcasme. En fait, c'est peut-être l'obstacle le plus important à la lutte contre les abus en ligne avec l'apprentissage automatique. Il est assez juste de dire que les IA qui comprennent le langage fonctionnent mieux lorsqu'un minimum d'informations contextuelles est nécessaire pour calculer la réponse correcte, explique Chris Dyer, professeur adjoint à l'Université Carnegie Mellon qui travaille sur le traitement du langage naturel. Les problèmes qui nécessitent d'intégrer beaucoup d'informations à partir du contexte dans lequel un énoncé est prononcé sont beaucoup plus difficiles à résoudre, et le sarcasme dépend extrêmement du contexte.
Actuellement, Lin et son équipe tentent de résoudre le problème avec des freins et contrepoids supplémentaires. Même lorsque le système identifie un joueur comme ayant affiché un comportement toxique, d'autres systèmes sont vérifiés pour renforcer ou opposer son veto au verdict. Par exemple, il tentera de valider chaque rapport d'un joueur pour déterminer l'exactitude de son rapport historique. Parce que plusieurs systèmes fonctionnent en conjonction pour avoir des conséquences pour les joueurs, nous constatons actuellement un taux de faux positifs sain de 1 sur 5 000, déclare Lin.
Pour vraiment freiner les abus, Riot a conçu des punitions et des mesures dissuasives pour persuader les joueurs de modifier leur comportement. Par exemple, cela peut limiter les ressources de chat pour les joueurs qui se comportent de manière abusive ou obliger les joueurs à terminer des jeux non classés sans incident avant de pouvoir jouer aux jeux les mieux classés. L'entreprise récompense également les joueurs respectueux avec un renforcement positif.
Lin croit fermement que les leçons que lui et son équipe ont tirées de leur travail ont une signification plus large. L'une des conclusions cruciales de la recherche est que le comportement toxique ne vient pas nécessairement de personnes terribles; cela vient de gens ordinaires qui passent une mauvaise journée, explique Justin Reich, chercheur au Berkman Center de Harvard, qui a étudié le travail de Riot. Cela signifie que nos stratégies pour lutter contre les comportements toxiques en ligne ne peuvent pas cibler uniquement les trolls endurcis ; ils doivent rendre compte de notre tendance humaine collective à permettre au pire de nous-mêmes d'émerger sous l'anonymat d'Internet.
Néanmoins, Reich pense que le travail de Lin démontre que le comportement toxique n'est pas un élément du Web, mais un problème qui peut être résolu par une combinaison d'ingénierie, d'expérimentation et d'engagement communautaire. Les défis auxquels nous sommes confrontés dans League of Legends peuvent être vus sur n'importe quel jeu, plate-forme, communauté ou forum en ligne, c'est pourquoi nous pensons que nous sommes à un moment charnière dans la chronologie des communautés et des sociétés en ligne, déclare Lin. Pour cette raison, nous avons été très ouverts dans le partage de nos données et de nos meilleures pratiques avec l'industrie au sens large et espérons que d'autres studios et entreprises jetteront un coup d'œil à ces résultats et se rendront compte que la toxicité en ligne n'est pas un problème impossible après tout.