Comment les Socialbots avancés ont infiltré Twitter

Si vous avez un compte Twitter, il est probable que vous ayez moins de 50 abonnés et que vous suiviez vous-même moins de 50 personnes. Vous connaissez probablement bien beaucoup de ces personnes, mais il se peut aussi qu'il y en ait quelques-unes sur votre liste que vous n'avez jamais rencontrées.

Voici donc une question intéressante : comment savez-vous que ces utilisateurs de Twitter sont de vraies personnes et non des comptes automatisés, appelés bots, qui vous fournissent des liens et des messages conçus pour influencer vos opinions ?

Vous pourriez dire que les bots ne sont pas très sophistiqués et si faciles à repérer. Et que Twitter surveille la Twittersphere à la recherche et à la suppression de tous les comptes automatisés qu'il trouve. Par conséquent, il est peu probable que vous suiviez sans le savoir des comptes automatisés, malveillants ou non.

Si vous partagez cette opinion, c'est une opinion que vous voudrez peut-être réviser à la suite des travaux de Carlos Freitas de l'Université fédérale de Minas Gerais au Brésil et de quelques amis, qui ont étudié à quel point il est facile pour les socialbots d'infiltrer Twitter.

Leurs découvertes surprendront. Ils disent qu'une proportion importante des socialbots qu'ils ont créés ont non seulement infiltré des groupes sociaux sur Twitter, mais sont également devenus influents parmi eux. De plus, Freitas et co ont identifié les caractéristiques qui rendent les socialbots les plus susceptibles de réussir.

Ces gars-là ont commencé par créer 120 socialbots et les lâcher sur Twitter. Les bots ont reçu un profil, sont devenus des hommes ou des femmes et ont reçu quelques adeptes pour commencer, dont certains étaient d'autres bots.

Les bots génèrent des tweets soit en republiant des messages que d'autres ont postés, soit en créant leurs propres tweets synthétiques en utilisant un ensemble de règles pour sélectionner des mots courants sur un certain sujet et les rassembler dans une phrase.

Les robots ont également reçu un niveau d'activité. Une activité élevée équivaut à publier au moins une fois par heure et une activité faible équivaut à le faire une fois toutes les deux heures (bien que les deux groupes soient assez actifs par rapport à la plupart des humains). Les robots dormaient également entre 22 heures. et 9 h 00, heure du Pacifique pour simuler le temps d'arrêt des utilisateurs humains.

Enfin, ils ont été mis en place pour suivre l'un des trois différents groupes d'humains. Le premier était composé de 200 personnes sélectionnées au hasard dans le flux Twitter, le second était de 200 personnes qui publiaient régulièrement des tweets sur un sujet spécifique dans ce cas, le développement de logiciels, et le dernier groupe était composé de 200 développeurs de logiciels qui étaient tous connectés les uns aux autres sur Twitter.

Après avoir lâché les socialbots, la première question à laquelle Freitas et co ont voulu répondre était de savoir si leurs accusations pouvaient échapper aux défenses mises en place par Twitter pour empêcher la publication automatisée. Au cours des 30 jours pendant lesquels l'expérience a été menée, 38 des 120 robots sociaux ont été suspendus, disent-ils. En d'autres termes, 69 % des robots sociaux ont échappé à la détection.

La question la plus intéressante, cependant, était de savoir si les robots sociaux peuvent infiltrer avec succès les groupes sociaux pour lesquels ils ont été créés. Et sur ce point les résultats sont surprenants. Sur la durée de l'expérimentation, les 120 socialbots ont reçu un total de 4 999 suivis de 1 952 utilisateurs différents. Et plus de 20 % d'entre eux ont recueilli plus de 100 abonnés, soit plus d'abonnés que 46 % des humains sur Twitter.

Freitas et co ont également surveillé le score Klout de chacun de leurs bots sociaux pour voir comment ils s'en sortaient. (Klout est un service en ligne qui mesure l'influence des comptes Twitter en leur attribuant un score compris entre 0 et 100). Nous constatons que les socialbots ont obtenu des scores Klout du même ordre de (ou, parfois, même plus élevés) que plusieurs académiciens et chercheurs de réseaux sociaux bien connus, disent-ils.

L'équipe a également analysé les données pour découvrir quels facteurs ont contribué au succès des robots. Sans surprise, le niveau d'activité est important et les bots les plus actifs ont atteint une plus grande popularité dans leurs réseaux sociaux. C'est normal car les robots plus actifs sont plus susceptibles d'être vus par les autres (bien qu'ils soient également plus susceptibles d'être détectés par les mécanismes de défense de Twitter).

Plus surprenant, les socialbots qui ont généré des tweets synthétiques (plutôt que de simplement republier) ont également mieux performé. Cela suggère que les utilisateurs de Twitter sont incapables de faire la distinction entre les messages générés par des humains et par des robots. C'est peut-être parce qu'une grande partie des tweets sur Twitter sont écrits dans un style informel et grammaticalement incohérent, de sorte que même des modèles statistiques simples peuvent produire des tweets d'une qualité similaire à ceux publiés par des humains sur Twitter, suggèrent Freitas et co.

Les groupes que les socialbots ont été mis en place pour suivre ont également eu un effet majeur. Le groupe de développeurs de logiciels socialement connectés a produit le moins d'adeptes tandis que le groupe de développeurs de logiciels choisis au hasard en a généré le plus grand nombre.

Le sexe a également joué un rôle. Alors que les robots masculins et féminins étaient également efficaces dans l'ensemble, les robots sociaux féminins étaient beaucoup plus efficaces pour générer des adeptes parmi le groupe de développeurs de logiciels socialement connectés. Cela suggère que le sexe des socialbots peut faire la différence si les utilisateurs cibles sont sexistes, disent Freitas et ses amis.

C'est un travail intéressant. Cela suggère que la Twittersphere peut être plus vulnérable aux attaques automatisées qu'on ne le pensait auparavant.

C'est une découverte qui peut avoir des implications importantes pour certains types de groupes sur Twitter. Au cours des dernières années, un certain nombre de services ont vu le jour pour mesurer l'intérêt et l'opinion des utilisateurs de Twitter sur une grande variété de sujets, tels que l'intention de vote, le sentiment du produit, les épidémies, les catastrophes naturelles, etc.

L'inquiétude est que les robots automatisés pourraient être conçus pour influencer de manière significative l'opinion dans un ou plusieurs de ces domaines. Par exemple, il serait relativement simple de créer un bot qui répandrait de fausses rumeurs sur un candidat politique d'une manière qui pourrait influencer une élection.

Le travail de Freitas and co est donc un signal d'alarme pour Twitter. S'il veut réussir à empêcher ce genre d'attaques, il devra améliorer considérablement ses mécanismes de défense. Et puisque ce travail révèle ce qui fait le succès des bots, l'équipe de recherche de Twitter a un avantage.

L'astuce sera de repérer les robots sociaux et de les exclure sans exclure par erreur les utilisateurs humains dans le processus. Ce ne sera pas une tâche facile.

Mais avec environ 20 millions de faux comptes Twitter déjà créés, les chercheurs de Twitter disposent de nombreuses données avec lesquelles travailler.

Réf : arxiv.org/abs/1405.4927 : Ingénierie inverse des stratégies d'infiltration de Socialbot sur Twitter

cacher