L'industrie cachée dupe les utilisateurs de médias sociaux

Un essaimage de sites Web chinois de crowdsourcing - où les gens peuvent gagner quelques centimes pour de petits travaux tels que l'étiquetage d'images - a découvert une industrie de plusieurs millions de dollars qui paie des centaines de milliers de personnes pour fausser les interactions sur les réseaux sociaux et publier du spam.

Les auteurs du rapport, à l'Université de Californie à Santa Barbara, ont également trouvé des preuves que les sites de crowdsourcing aux États-Unis sont également dominés par des emplois éthiquement douteux. Ils concluent que la croissance rapide de cette façon de gagner de l'argent fera des shills payés un grave problème de sécurité pour les sites Web et ceux qui les utilisent dans le monde entier. Un article décrivant leurs résultats est disponible sur le serveur de pré-impression Arxiv .

Ben Zhao , professeur agrégé d'informatique à l'UCSB (et lauréat du TR35 en 2006), a commencé à se pencher sur l'industrie du crowdsourcing largement inexplorée en Chine après avoir travaillé en étroite collaboration avec RenRen, un réseau social parfois appelé Facebook de Chine, pour suivre les activités malveillantes sur le site. Zhao était intrigué de voir de nombreuses tentatives relativement sophistiquées d'envoyer du spam et de promouvoir des marques par des utilisateurs qui semblaient travailler avec des agendas spécifiques.

Lorsque lui et ses collègues ont enquêté sur la source de cette activité, l'équipe a été surprise par ce qu'elle a trouvé, explique Zhao : Evil crowdsourcing à très grande échelle. Influencer l'opinion publique avec de fausses activités de base est connu sous le nom d'astroturfing, ce qui a conduit Zhao à inventer le terme crowdturfing, car cela se fait via de grands sites de crowdsourcing.

Les chercheurs ont découvert qu'une grande partie de l'activité suspecte en Chine provenait de deux sites de crowdsourcing : Zhubajie , le plus grand de Chine, et Sandaha. Là-bas, les gens se voient offrir ouvertement l'équivalent de dizaines de centimes pour faire des choses comme créer des comptes sur des sites particuliers, publier des réponses biaisées sur des produits spécifiques sur des sites de questions-réponses, et créer et diffuser des messages positifs sur les produits sur les réseaux sociaux.

Les sites Web sont très publics et vous pouvez voir qui a offert des emplois antérieurs et ce qu'ils ont payé, explique Zhao. Son équipe a utilisé un logiciel pour montrer que Zhubajie et Sandaha sont, respectivement, à 88 et 92% du crowdturfing. Ils ont également découvert que Zhubajie traite actuellement plus d'un million de dollars chaque mois pour des tâches de crowdturfing ; le chiffre pour la plus jeune Sandaha est de dizaines de milliers de dollars. Cette industrie représente déjà des millions de dollars par an et [montre] une croissance à peu près exponentielle, dit Zhao. Je pense que nous sommes encore aux premiers stades de ce phénomène.

Effrayée par l'ampleur de l'activité sur les sites chinois et la possibilité qu'ils soient utilisés pour compromettre les sites américains, l'équipe de l'UCSB a examiné les sites de crowdsourcing basés aux États-Unis. Le Turk Mécanique d'Amazon est peut-être le plus connu, mais d'autres ont également vu le jour.

La plupart de ces autres sites ont beaucoup de crowdturfing, dit Zhao, et les sites ne ferment pas activement ces tâches, comme Amazon essaie de le faire. Tâche courte , le deuxième plus grand site de crowdsourcing américain étudié, s'est avéré être composé à 95 % de tâches de crowdturfing et a aidé les travailleurs à être payés pour plus d'un demi-million de tâches d'astroturfing au cours de la dernière année. Malgré les efforts d'Amazon, Mechanical Turk s'est avéré être 12% de crowdturfing, une estimation inférieure aux 40% allégués par une étude de l'Université de New York. à la fin de l'année dernière .

Zhao dit que ces sites deviendront probablement la source de problèmes importants pour les réseaux sociaux comme Twitter et Facebook, tout comme ils le sont devenus pour leurs équivalents chinois.

Les gens sont prêts à le faire pour de si petites quantités, et nous avons vu que les résultats sont très bons, dit-il. Zhao pense qu'une économie favorable conduira à des sites de crowdsourcing en Chine et dans d'autres pays en développement qui perturberont les services américains. ShortTask et d'autres sites de crowdsourcing aux États-Unis avec une forte proportion de crowdturfing comptent de nombreux employés de pays en développement.

Le pire, c'est que c'est si difficile à détecter, dit Zhao. Toutes nos méthodes de sécurité supposent qu'il y a un programme en jeu, et cela impose des contraintes que vous pouvez détecter. Le groupe de Zhao a déjà travaillé pour découvrir le spam à l'intérieur de Facebook, principalement en raison de robots logiciels prenant le contrôle de comptes d'utilisateurs authentiques. Facebook et d'autres sociétés Web s'appuient aujourd'hui sur des outils comme les Captchas ou sur des règles relativement simples capables de repérer facilement les comptes automatisés. Si vous avez un vrai humain impliqué qui est déterminé, alors ce que vous pouvez faire n'est vraiment limité que par le prix qu'il est payé, dit Zhao.

Philippe Menczer , directeur du Center for Complex Networks and Systems Research de l'Université de l'Indiana, travaille au développement de systèmes pour détecter l'astroturf politique sur Twitter . C'est déjà une chose difficile à faire, et cela deviendra probablement plus difficile, dit-il, d'autant plus que les services de crowdsourcing deviennent plus faciles à utiliser.

Le groupe de Menczer a d'abord construit un système pour détecter l'astroturf politique à l'approche des dernières élections de mi-mandat. Il identifie d'abord les fils de discussion politique circulant sur Twitter, en utilisant des hashtags, des liens, des noms et des phrases. Un logiciel formé pour reconnaître à la fois les tweets légitimes et astroturfing filtre ensuite les messages frauduleux de cette soupe de discussion politique, et suit même leur succès à influencer de vrais utilisateurs.

Ce système a pu trouver des comptes automatisés en envoyant des messages soigneusement variés faisant la promotion de certains sites politiques. Mais Menczer a toujours soupçonné qu'ils manquaient une quantité inconnue de campagnes d'astroturfing plus subtiles. Examiner l'origine de l'astroturf participatif offre une autre perspective, dit-il.

Le fait qu'il existe des sites Web presque dédiés à faciliter l'embauche de personnes pour le faire est une preuve supplémentaire que cela se produit, déclare Menczer, qui travaille à la mise à niveau de son système de détection d'astroturf pour analyser les discussions autour des élections présidentielles de l'année prochaine.

Une façon possible de s'attaquer à de tels réseaux serait de suivre l'argent, dit Zhao. Cela permettrait probablement de découvrir une cible moins distribuée. Une étude réalisée plus tôt cette année a révélé que 95 % des revenus des courriers indésirables ne transitent que par trois banques , une cible bien plus facile que les millions d'ordinateurs compromis qui envoient les messages non sollicités ou les criminels obscurs qui les coordonnent.

cacher