Comment WeChat censure les conversations privées, automatiquement en temps réel

Illustration conceptuelle de la censure des images WeChat Mme Tech

WeChat est une fenêtre sur l'avenir d'Internet de différentes manières.

Basée en Chine et comptant plus de 1,1 milliard d'utilisateurs dans le monde, c'est l'une des applications les plus avancées et les plus populaires au monde. Ce qui est remarquable, c'est la façon dont il touche tant de recoins de la vie d'un Chinois : c'est la façon dont une grande partie du pays discute, paie, joue, bouge et bien plus encore. Alors que Mark Zuckerberg envisage l'avenir de Facebook, c'est de plus en plus WeChat qu'il essaie de imiter .

Il y a plus dans cette soi-disant super application que la messagerie, la nourriture, les voitures et les paiements. L'ambition globale de WeChat comprend certaines des technologies de censure les plus avancées, les plus rapides et les plus étendues au monde.

Nouvelle recherche du CitizenLab de l'Université de Toronto tire le rideau sur la façon dont la censure automatique en temps réel du texte et des images de WeChat est utilisée pour exercer un contrôle sur les discussions politiques sur des sujets allant des problèmes internationaux comme la guerre commerciale avec les États-Unis aux scandales nationaux comme la disparition de documents judiciaires dans un différend de 2018 entre deux sociétés minières chinoises de plusieurs milliards de dollars. Toute discussion est finalement soumise à l'approbation du gouvernement chinois.

Les censeurs de WeChat sont confrontés à deux types de défis. Les gros messages publics sur WeChat Moments, une fonctionnalité publique similaire à la chronologie de Facebook, sont examinés et filtrés par des algorithmes qui peuvent parfois prendre plus de 10 secondes pour s'exécuter, un rythme glacial sur les réseaux sociaux. Mais les messages individuels et de groupe sont un problème entièrement différent, car ce sont souvent des conversations intimes et instantanées. Cela nécessite une censure en temps réel.

Le texte est relativement facile à rechercher et à censurer. Le filtrage des images est plus difficile, surtout lorsque vous essayez d'examiner et de censurer les images presque instantanément. Pour accomplir cette tâche, WeChat conserve un index massif et toujours croissant de hachages MD5, de petites signatures de données cryptographiques uniques à chaque fichier. Lorsqu'une image censurée est envoyée, elle sera capturée par l'index de hachage et supprimée. Ni l'expéditeur ni le destinataire ne sont susceptibles de savoir que quelque chose a été censuré.

Si l'image n'est pas censurée instantanément, elle est envoyée pour analyse automatique. À l'aide de la reconnaissance optique des caractères, l'image est examinée à la recherche de texte (l'envoi de captures d'écran d'articles de journaux était autrefois un moyen facile de passer les censeurs). L'image est ensuite vérifiée pour la similitude visuelle avec d'autres images censurées. Le contenu dit préjudiciable - y compris tout ce qui concerne la politique internationale ou nationale jugé indésirable par le Parti communiste chinois - sera reniflé, supprimé de la conversation, puis ajouté à cet index de hachage d'origine, qui le signale pour une censure instantanée à partir de ce moment. . C'est un système d'auto-renforcement qui se développe avec chaque image envoyée. Ces derniers systèmes sont également utilisés sur les Moments de WeChat pour vérifier et créer la liste noire dynamique de l'entreprise.

Le géant chinois de la technologie Tencent, propriétaire de WeChat, subit de fortes pressions de la part de Pékin pour mettre en œuvre une technologie de censure efficace, a déclaré Adam Segal, directeur du programme de politique numérique et cyberespace au Council on Foreign Relations. Les entreprises chinoises sont toutes responsables du contenu, et bien qu'elles se soient appuyées sur des dizaines de milliers de censeurs humains, elles ont également développé de nouvelles approches [d'apprentissage automatique] pour le retrait de contenu. À l'intérieur de la Chine, cela fait partie de la tendance plus large sous Xi Jinping de resserrer les contrôles sur l'Internet chinois et la société en général.

WeChat est si répandu en Chine que la perspective d'être suspendu ou interdit peut perturber des vies. L'application combine les fonctionnalités de Facebook, Uber, GrubHub, etc. Vous pouvez prendre des rendez-vous chez le médecin, payer des factures de services publics, parler à des contacts professionnels ou faire appel à des services gouvernementaux.

C'est vraiment devenu une méga-application, déclare Sarah Cook, analyste de recherche senior pour l'Asie de l'Est au sein du groupe de recherche pro-démocratie Freedom House. Il est vraiment difficile de fonctionner dans la société chinoise moderne sans utiliser WeChat, et donc l'effet paralysant est réel.

Sous la direction de Pékin, les censeurs de Tencent répondent adroitement à l'actualité. En plus des événements historiques meurtriers comme les manifestations de la place Tiananmen et la Révolution culturelle, de nouveaux événements sont rapidement ajoutés.

Les chercheurs ont découvert que des événements dignes d'intérêt comme l'arrestation d'un dirigeant de Huawei accusé de fraude et le scandale du bébé CRISPR dans lequel un scientifique chinois a annoncé la naissance de filles avec des génomes modifiés ont déclenché des vagues de censure. Il en a été de même pour une foule d'autres problèmes, comme le conflit avec les États-Unis et la corruption intérieure ou d'autres problèmes.

Un événement a déclenché des images encore plus censurées : en décembre 2018, un scandale a éclaté lorsque la Cour suprême chinoise a admis la disparition de documents dans un différend d'un milliard de dollars entre des sociétés minières. Les chercheurs ont découvert que des dizaines d'images relatives au vol présumé des documents avaient été censurées.

Au cours des dernières années, vous avez eu la combinaison de resserrer les restrictions de censure et de resserrer les contrôles, dit Cook. Il y a moins de tolérance officielle pour la conversation, l'expression et le réseautage qui avaient été tolérés auparavant. Vous avez vu Tencent et WeChat, en particulier, se voir infliger des amendes. Alors maintenant, ils essaient d'employer de nouvelles méthodes pour attraper le soi-disant 'contenu préjudiciable' que le Parti communiste chinois veut arrêter. C'est là qu'intervient la censure automatisée en temps réel.

cacher