Le problème croissant des bots qui combattent en ligne

Les agents logiciels, ou bots, imprègnent le Web. Ils collectent des données sur les pages Web, corrigent le vandalisme sur Wikipédia, génèrent du spam et imitent même les humains.

Et leur impact est grandissant. Selon certaines mesures, les bots représentent 49 % des visites de pages Web et sont responsables de plus de 50 % des clics sur les publicités. Cet impact devrait augmenter à mesure que le nombre de bots augmente de façon exponentielle.

Un nombre croissant de décisions, d'options, de choix et de services dépendent désormais du fonctionnement correct, efficace et réussi des bots, déclarent Taha Yasseri et ses amis de l'Université d'Oxford au Royaume-Uni. Pourtant, nous en savons très peu sur la vie et l'évolution de notre serviteurs numériques.

Cela soulève une question intéressante. Comment les bots interagissent-ils entre eux ? Et en quoi ces interactions diffèrent-elles de la façon dont les humains interagissent ?

Aujourd'hui, Yasseri et ses amis jettent un peu de lumière sur ces questions en étudiant la façon dont les bots sur Wikipédia interagissent les uns avec les autres. Et tout ne va pas bien au pays du cyberespace. Nous constatons que, bien que les robots de Wikipédia soient destinés à prendre en charge l'encyclopédie, ils annulent souvent les modifications les uns des autres et ces 'combats' stériles peuvent parfois se poursuivre pendant des années, disent-ils.

Wikipédia utilise depuis longtemps des bots pour gérer des tâches répétitives telles que l'ajout de liens entre différentes éditions linguistiques, la vérification de l'orthographe, l'annulation du vandalisme, etc. En 2014, les robots ont effectué environ 15 % de toutes les modifications sur toutes les éditions linguistiques.

Tous ces bots doivent être approuvés par Wikipédia et doivent suivre la politique de bot de l'organisation. Donc, en théorie, le monde des bots de Wikipédia devrait être heureux. En pratique, les choses sont assez différentes.

En particulier, Yasseri et co se concentrent sur la question de savoir si les bots ne sont pas d'accord les uns avec les autres. Une façon de mesurer cela sur Wikipédia est de revenir en arrière, c'est-à-dire des modifications qui remettent un article tel qu'il était avant une modification précédente.

Sur une période de 10 ans, les humains se sont inversés environ trois fois en moyenne. Mais les robots étaient beaucoup plus actifs. Au cours de la période de 10 ans, les bots sur Wikipedia anglais ont inversé un autre bot en moyenne 105 fois, disent Yasseri et co.

Il existe des variations importantes entre les différentes éditions linguistiques de Wikipédia. Par exemple, les bots travaillant sur l'édition allemande s'inversent en moyenne 24 fois, tandis que ceux de l'édition portugaise ont eu quelque 185 bot-bot reverts.

Les robots et les humains diffèrent considérablement dans leurs habitudes de retour. Le moment le plus probable pour un humain de faire un retour est soit dans les deux minutes après qu'un changement a été effectué, après 24 heures ou après un an. Cela est clairement lié aux rythmes des modes de vie humains.

Les robots, bien sûr, ne suivent pas ces rythmes : ils ont plutôt un temps de réponse moyen caractéristique d'un mois. Cette différence est probablement due au fait que, premièrement, les bots analysent systématiquement les articles et, deuxièmement, que les bots sont limités quant à la fréquence à laquelle ils peuvent apporter des modifications, disent Yasseri et co.

Néanmoins, les robots peuvent se retrouver dans des conflits importants les uns avec les autres et se comporter de manière aussi imprévisible et inefficace que les humains. Mais pourquoi?

Yasseri et co pensent qu'ils connaissent la réponse. Les désaccords proviennent probablement de l'organisation ascendante de la communauté, selon laquelle les éditeurs humains créent et exécutent individuellement des bots, sans mécanisme formel de coordination avec les autres propriétaires de bots, disent-ils.

En effet, la plupart des litiges surviennent entre des bots spécialisés dans la création et la modification de liens entre différentes éditions linguistiques de Wikipédia. C'est peut-être parce que les éditeurs derrière ces bots parlent des langues différentes, ce qui rend la coordination d'autant plus difficile. Le manque de coordination peut être dû à des éditions linguistiques différentes ayant des règles et des conventions de dénomination légèrement différentes, selon l'équipe.

C'est un travail intéressant car il montre comment des bots relativement simples peuvent produire une dynamique complexe avec des conséquences imprévues. C'est d'autant plus préoccupant que Wikipédia est une communauté fermée où l'utilisation de robots est raisonnablement bien régie.

Ce n'est pas le cas dans d'autres domaines, comme les organisations de médias sociaux telles que Twitter. Un groupe a estimé qu'en 2009, un quart de tous les tweets étaient générés par des bots. Cela a probablement beaucoup changé depuis lors. Et il existe de nombreux exemples de bots avancés qui sont de plus en plus difficiles à distinguer des humains.

La dynamique que ces bots produisent dans des environnements relativement non réglementés est à deviner. Mais cela signifie qu'il y a ici un défi intéressant à relever pour comprendre la façon dont les bots interagissent et pour cartographier la dynamique complexe qu'ils créent.

Réf : arxiv.org/abs/1609.04285 : Même les bons bots se battent

cacher