Des chercheurs infiltrés exposent l'armée chinoise de l'eau sur Internet

En Chine, les affiches payantes sont connues sous le nom d'Internet Water Army parce qu'elles sont prêtes et disposées à « inonder » Internet pour quiconque est prêt à payer. Le déluge peut consister en commentaires, ragots et informations (ou désinformation) et il semble y avoir une forte demande pour les services de cette armée. C'est une marée insidieuse. Des recommandations positives peuvent faire une énorme différence dans les ventes d'un produit, mais peuvent également chasser un concurrent du marché. Lorsque les entreprises dépensent des millions pour lancer de nouveaux biens et services, il est facile de comprendre pourquoi elles peuvent vouloir utiliser tous les outils à leur disposition pour réussir. Le perdant dans tout cela est le consommateur qui est amené à prendre une décision d'achat sur la base de fausses prémisses. Et pour le moment, les consommateurs ont peu de recours juridiques ou même de moyens de repérer la pratique. Aujourd'hui, Cheng Chen de l'Université de Victoria au Canada et quelques amis décrivent comment Cheng a travaillé sous couverture en tant qu'affiche payante sur des sites Web chinois pour comprendre comment fonctionne l'Internet Water Army. Lui et ses amis ont ensuite utilisé ce qu'il a appris pour créer un logiciel capable de repérer automatiquement les affiches payantes. La publication payante est une activité bien gérée impliquant des milliers d'individus et des dizaines de milliers d'identifiants en ligne différents. Les affiches ont généralement pour tâche de s'inscrire sur un site Web, puis de commencer à générer du contenu sous forme de publications, d'articles, de liens vers des sites Web et de vidéos, voire d'organiser des sessions de questions-réponses. Souvent, ce contenu est préparé à l'avance ou les affiches reçoivent des instructions détaillées sur le type de choses qu'elles peuvent dire. Et il y a même une équipe de contrôle qualité qui vérifie que les messages satisfont à un certain seuil de « qualité ». Un message ne serait pas validé s'il était supprimé par l'hébergeur ou s'il était composé de mots brouillés, par exemple. Après avoir travaillé sous couverture pour découvrir comment fonctionnait le système, Cheng et ses collègues ont ensuite étudié le modèle des publications qui apparaissaient sur quelques grands sites Web chinois : Sina.com et Sohu.com. En particulier, ils ont étudié les commentaires de plusieurs reportages sur deux entreprises qu'ils soupçonnaient de payer des affiches et qui étaient impliquées dans une querelle publique au sujet des services de l'autre. L'ensemble de données Sina se composait de plus de 500 utilisateurs faisant plus de 20 000 commentaires ; l'ensemble de données Sohu impliquait plus de 200 utilisateurs et plus de 1000 commentaires. Cheng et ses collègues ont parcouru tous les messages en identifiant manuellement ceux qu'ils pensaient provenir d'affiches payantes, puis se sont mis à rechercher des modèles de comportement qui peuvent les différencier des utilisateurs légitimes. (La précision des impressions initiales est un problème potentiel, admettent-ils, mais le même problème auquel les filtres anti-spam doivent également faire face.) Ils ont découvert que les affiches payantes ont tendance à publier plus de nouveaux commentaires que de réponses à d'autres commentaires. Ils publient également plus souvent, 50 % d'entre eux publiant en moyenne toutes les 2,5 minutes. Ils passent également d'une discussion plus rapidement que les utilisateurs légitimes, en supprimant leurs identifiants et en ne les utilisant plus jamais. De plus, le contenu qu'ils publient est sensiblement différent. Ces travailleurs sont payés au volume et prennent donc souvent des raccourcis, coupant et collant plusieurs fois le même contenu. Cela invaliderait normalement leurs messages, mais seulement s'il est repéré par l'équipe de contrôle qualité. Cheng et ses collègues ont donc construit un logiciel pour rechercher les répétitions et les similitudes dans les messages ainsi que les autres comportements qu'ils avaient identifiés. Ils l'ont ensuite testé sur l'ensemble de données qu'ils avaient téléchargé de Sina et Sohu et l'ont trouvé remarquablement bon, avec une précision de 88 % pour repérer les affiches payantes. Nos résultats de test avec des ensembles de données du monde réel montrent une performance très prometteuse, disent-ils. C'est un travail impressionnant et un bon premier pas vers la lutte contre ce problème, même s'ils devront le tester sur un éventail beaucoup plus large d'ensembles de données. Néanmoins, ces types ont la base d'un progiciel qui éliminera une fraction importante des affiches payantes, à condition que ces personnes se conforment au stéréotype mesuré par Cheng et ses collègues. Et c'est là que le bât blesse. Dès que la première version du logiciel arrivera sur le marché, les affiches payantes apprendront à modifier leur comportement de manière à jouer avec le système. Ce que Cheng et ses collègues ont lancé est un jeu du chat et de la souris tout comme ceux qui affligent les industries du filtrage antivirus et anti-spam. Et cela signifie que la bataille à venir avec l'Internet Water Army sera longue et difficile. Réf : arxiv.org/abs/1111.4297 : Combattre l'armée de l'eau sur Internet : détection des affiches payantes cachées cacher