211service.com
Qui a besoin de démocratie quand on a des données ?
Voici comment la Chine régit l'utilisation des données, de l'IA et de la surveillance Internet. 20 août 2018
Photo de deux caméras de surveillance à côté d'un portrait de Mao Zedong.
En 1955, l'écrivain de science-fiction Isaac Asimov a publié une nouvelle sur une expérience de démocratie électronique, dans laquelle un seul citoyen, choisi pour représenter une population entière, a répondu à des questions générées par un ordinateur nommé Multivac. La machine a pris ces données et a calculé les résultats d'une élection qui n'a donc jamais eu lieu. L'histoire d'Asimov s'est déroulée à Bloomington, dans l'Indiana, mais aujourd'hui, une approximation de Multivac est en cours de construction en Chine.
Pour tout régime autoritaire, il y a un problème fondamental pour le centre de comprendre ce qui se passe aux niveaux inférieurs et dans toute la société, explique Deborah Seligsohn, politologue et experte de la Chine à l'Université Villanova de Philadelphie. Comment gouverner efficacement un pays qui abrite une personne sur cinq sur la planète, avec une économie et une société de plus en plus complexes, si vous n'autorisez pas le débat public, l'activisme civil et les réactions électorales ? Comment rassemblez-vous suffisamment d'informations pour réellement prendre des décisions ? Et comment un gouvernement qui n'invite pas ses citoyens à participer engendre-t-il encore la confiance et modifie-t-il le comportement du public sans mettre la police à chaque porte ?
Cette histoire faisait partie de notre numéro de septembre 2018
- Voir la suite du problème
- S'abonner
Hu Jintao, le dirigeant chinois de 2002 à 2012, avait tenté de résoudre ces problèmes en autorisant un modeste dégel démocratique, permettant aux griefs d'atteindre la classe dirigeante. Son successeur, Xi Jinping, a inversé cette tendance. Au lieu de cela, sa stratégie pour comprendre et répondre à ce qui se passe dans un pays de 1,4 milliard d'habitants repose sur une combinaison de surveillance, d'IA et de mégadonnées pour surveiller la vie et le comportement des gens dans les moindres détails.
Il est utile que quelques années tumultueuses dans les démocraties du monde aient donné à l'élite politique chinoise le sentiment de plus en plus justifié d'exclure les électeurs. Des développements tels que l'élection de Donald Trump, le Brexit, la montée des partis d'extrême droite à travers l'Europe et le règne de terreur de Rodrigo Duterte aux Philippines soulignent ce que de nombreux critiques considèrent comme les problèmes inhérents à la démocratie, en particulier le populisme, l'instabilité et un leadership précairement personnalisé.
Depuis qu'il est devenu secrétaire général du Parti communiste chinois en 2012, Xi a présenté une série de plans ambitieux pour le pays, dont beaucoup sont ancrés dans la technologie, notamment l'objectif de devenir le leader mondial de l'intelligence artificielle d'ici 2030. Xi a appelé à la cybersouveraineté pour renforcer la censure et affirmer un contrôle total sur l'internet national. En mai, il a déclaré lors d'une réunion de l'Académie chinoise des sciences que la technologie était la clé pour atteindre le grand objectif de construire une nation socialiste et modernisée. En janvier, lorsqu'il s'est adressé à la nation à la télévision, les étagères de chaque côté de lui contenaient à la fois des titres classiques tels que Das Kapital et quelques nouveautés, dont deux livres sur l'intelligence artificielle : Pedro Domingos's L'algorithme maître et celui de Brett King Augmented : la vie dans la voie intelligente .
Aucun gouvernement n'a de plan plus ambitieux et de plus grande envergure pour exploiter le pouvoir des données afin de changer sa façon de gouverner que le gouvernement chinois, déclare Martin Chorzempa du Peterson Institute for International Economics à Washington, DC. Même certains observateurs étrangers, observant de loin, pourraient être tentés de se demander si une telle gouvernance fondée sur les données offre une alternative viable au modèle électoral qui semble de plus en plus dysfonctionnel. Mais trop compter sur la sagesse de la technologie et des données comporte ses propres risques.
Des données au lieu de dialogue
Les dirigeants chinois ont longtemps voulu exploiter l'opinion publique sans ouvrir la porte à des débats houleux et à des critiques des autorités. Pendant la majeure partie de l'histoire impériale et moderne de la Chine, il y a eu une tradition de gens mécontents de la campagne se rendant à Pékin et organisant de petites manifestations en tant que pétitionnaires publics. L'idée était que si les autorités locales ne comprenaient pas ou ne se souciaient pas de leurs griefs, l'empereur pourrait faire preuve d'un meilleur jugement.
Sous Hu Jintao, certains membres du Parti communiste considéraient une ouverture limitée comme un moyen possible d'exposer et de résoudre certains types de problèmes. Les blogs, les journalistes anti-corruption, les avocats des droits de l'homme et les critiques en ligne mettant en lumière la corruption locale ont alimenté le débat public vers la fin du règne de Hu. Au début de son mandat, Xi a reçu un briefing quotidien sur les préoccupations et les troubles du public extraits des médias sociaux, selon un ancien responsable américain connaissant le sujet. Ces dernières années, des pétitionnaires sont venus dans la capitale pour attirer l'attention sur des scandales tels que des saisies illégales de terres par les autorités locales et du lait en poudre contaminé.
Mais la police empêche de plus en plus les pétitionnaires d'atteindre Pékin. Désormais, les trains exigent des pièces d'identité nationales pour acheter des billets, ce qui permet aux autorités d'identifier facilement les 'fauteurs de troubles' potentiels tels que ceux qui ont protesté contre le gouvernement dans le passé, explique Maya Wang, chercheuse principale sur la Chine pour Human Rights Watch. Plusieurs pétitionnaires nous ont dit avoir été arrêtés sur des quais de train. Les blogueurs, les militants et les avocats sont également systématiquement réduits au silence ou emprisonnés, comme si les données pouvaient fournir au gouvernement les mêmes informations sans aucun des problèmes délicats de la liberté.
Démonstration par une startup de Shanghai de son système de reconnaissance faciale.
L'idée d'utiliser la technologie en réseau comme outil de gouvernance en Chine remonte au moins au milieu des années 1980. Comme l'explique l'historien de Harvard Julian Gewirtz, lorsque le gouvernement chinois a vu que les technologies de l'information faisaient désormais partie de la vie quotidienne, il s'est rendu compte qu'il aurait un nouvel outil puissant pour à la fois recueillir des informations et contrôler la culture, pour rendre les Chinois plus « modernes » et plus « gouvernable » - qui ont été des obsessions permanentes de la direction. Les progrès ultérieurs, y compris les progrès de l'IA et des processeurs plus rapides, ont rapproché cette vision.
Pour autant que nous le sachions, il n'existe pas de schéma directeur unique reliant technologie et gouvernance en Chine. Mais il existe plusieurs initiatives qui partagent une stratégie commune de collecte de données sur les personnes et les entreprises pour éclairer la prise de décision et créer des systèmes d'incitations et de sanctions pour influencer le comportement. Ces initiatives comprennent le système de crédit social de 2014 du Conseil d'État, la loi sur la cybersécurité de 2016, diverses expériences locales et d'entreprises privées en matière de crédit social, des plans de ville intelligente et des services de police axés sur la technologie dans la région occidentale du Xinjiang. Souvent, ils impliquent des partenariats entre le gouvernement et les entreprises technologiques chinoises.
Le plus étendu est le système de crédit social, bien qu'une meilleure traduction en anglais puisse être le système de confiance ou de réputation. Le plan gouvernemental, qui concerne à la fois les particuliers et les entreprises, cite parmi ses objectifs la construction de la sincérité dans les affaires gouvernementales, la sincérité commerciale et la crédibilité judiciaire. (Tout le monde en Chine a une tante qui a été escroquée. Il existe un besoin légitime de remédier à la rupture de la confiance du public, déclare Paul Triolo, responsable de la pratique de la géotechnologie au sein du cabinet de conseil Eurasia Group.) À ce jour, c'est un travail en cours, bien que divers pilotes prévisualisent comment cela pourrait fonctionner en 2020, lorsqu'il est censé être entièrement mis en œuvre.
L'algorithme est censé mettre en évidence des comportements suspects tels que visiter une mosquée ou posséder trop de livres.
Les listes noires sont le premier outil du système. Au cours des cinq dernières années, le système judiciaire chinois a publié les noms des personnes qui n'ont pas payé d'amendes ou ne se sont pas conformées aux jugements. Dans le cadre de la nouvelle réglementation du crédit social, cette liste est partagée avec diverses entreprises et agences gouvernementales. Les personnes figurant sur la liste se sont retrouvées dans l'impossibilité d'emprunter de l'argent, de réserver des vols et de séjourner dans des hôtels de luxe. Les sociétés de transport nationales chinoises ont créé des listes noires supplémentaires, pour punir les passagers pour des comportements tels que bloquer les portes des trains ou provoquer des bagarres pendant un voyage ; les contrevenants sont interdits d'achats futurs de billets pendant six ou 12 mois. Plus tôt cette année, Pékin a lancé une série de listes noires pour interdire aux entreprises malhonnêtes de se voir attribuer de futurs contrats gouvernementaux ou des concessions de terres.
Quelques gouvernements locaux ont expérimenté les scores de crédit social, bien qu'il ne soit pas clair s'ils feront partie du plan national. La ville septentrionale de Rongcheng, par exemple, attribue un score à chacun de ses 740 000 habitants, a rapporté Foreign Policy. Tout le monde commence avec 1 000 points. Si vous faites un don à un organisme de bienfaisance ou remportez un prix du gouvernement, vous gagnez des points ; si vous enfreignez le code de la route, par exemple en conduisant en état d'ébriété ou en traversant un passage pour piétons à toute vitesse, vous perdez des points. Les personnes ayant de bons scores peuvent obtenir des rabais sur les fournitures de chauffage d'hiver ou obtenir de meilleures conditions sur les prêts hypothécaires ; ceux qui ont de mauvais scores peuvent perdre l'accès aux prêts bancaires ou aux promotions dans les emplois gouvernementaux. L'hôtel de ville présente des affiches de modèles locaux, qui ont fait preuve de vertu et obtenu des scores élevés.
L'idée du crédit social est de surveiller et de gérer le comportement des personnes et des institutions, explique Samantha Hoffman de l'Institut Mercator pour les études chinoises à Berlin. Une fois qu'une violation est enregistrée dans une partie du système, elle peut déclencher des réponses dans d'autres parties du système. C'est un concept conçu pour soutenir à la fois le développement économique et la gestion sociale, et il est intrinsèquement politique. Certains parallèles avec certaines parties du plan de la Chine existent déjà aux États-Unis : une mauvaise cote de crédit peut vous empêcher de contracter un prêt immobilier, tandis qu'une condamnation pour crime suspend ou annule votre droit de vote, par exemple. Mais ils ne sont pas tous connectés de la même manière - il n'y a pas de plan global, souligne Hoffman.
L'une des plus grandes préoccupations est que la Chine n'ayant pas de système judiciaire indépendant, les citoyens n'ont aucun recours pour contester des allégations fausses ou inexactes. Certains ont vu leurs noms ajoutés aux listes noires de voyage sans notification après une décision de justice. Les pétitionnaires et les journalistes d'investigation sont surveillés selon un autre système, et les personnes qui sont entrées en cure de désintoxication sont surveillées par un système de surveillance encore différent. Théoriquement, les bases de données sur les toxicomanes sont censées effacer les noms après cinq ou sept ans, mais j'ai vu de nombreux cas où cela ne s'est pas produit, déclare Wang de Human Rights Watch. Il est extrêmement difficile de se retirer de l'une de ces listes.
Des éclats de rage occasionnels en ligne indiquent le ressentiment du public. La nouvelle qu'une étudiante avait été refusée par un collège en raison de l'inscription de son père sur une liste noire de crédits a récemment déclenché une vague de colère en ligne. La décision du collège n'avait pas été officiellement sanctionnée ou ordonnée par le gouvernement. Au contraire, dans leur enthousiasme à soutenir les nouvelles politiques, les administrateurs scolaires les avaient simplement amenés à ce qu'ils considéraient comme la conclusion logique.
L'opacité du système rend difficile l'évaluation de l'efficacité d'expériences comme celle de Rongcheng. Le parti a évincé presque toutes les voix critiques depuis 2012, et les risques de remettre en cause le système, même de manière relativement modeste, ont augmenté. Les informations disponibles sont profondément erronées ; la falsification systématique des données sur tout, de la croissance du PIB à l'utilisation de l'hydroélectricité, imprègne les statistiques du gouvernement chinois. Borge Bakken, chercheur à l'Université nationale australienne, estime que les chiffres officiels de la criminalité, que le gouvernement est clairement incité à minimiser, pourraient représenter aussi peu que 2,5 % de tous les comportements criminels.
En théorie, la gouvernance basée sur les données pourrait aider à résoudre ces problèmes, en contournant les distorsions pour permettre au gouvernement central de collecter directement des informations. C'est l'idée derrière, par exemple, l'introduction de moniteurs de qualité de l'air qui renvoient les données aux autorités centrales plutôt que de compter sur les autorités locales qui peuvent être dans la poche des industries polluantes. Mais de nombreux aspects de la bonne gouvernance sont trop compliqués pour permettre ce type de suivi direct et reposent plutôt sur des données saisies par ces mêmes responsables locaux.
Cependant, le gouvernement chinois publie rarement des données de performance que des étrangers pourraient utiliser pour évaluer ces systèmes. Prenez les caméras qui sont utilisées pour identifier et humilier les promeneurs dans certaines villes en projetant leurs visages sur des panneaux d'affichage publics, ainsi que pour suivre les habitudes de prière des musulmans de l'ouest de la Chine. Leur exactitude reste incertaine : en particulier, dans quelle mesure un logiciel de reconnaissance faciale entraîné sur les visages des Chinois Han peut-il reconnaître les membres des groupes minoritaires eurasiens ? De plus, même si la collecte de données est exacte, comment le gouvernement utilisera-t-il ces informations pour orienter ou contrecarrer les comportements futurs ? Les algorithmes de la police qui prédisent qui est susceptible de devenir un criminel ne sont pas soumis à un examen public, pas plus que les statistiques qui montreraient si la criminalité ou le terrorisme ont augmenté ou diminué. (Par exemple, dans la région occidentale du Xinjiang, les informations disponibles montrent seulement que le nombre de personnes placées en garde à vue a considérablement augmenté, augmentant de 731 % entre 2016 et 2017.)
Dans la ville de Xiangyang, des caméras liées à la technologie de reconnaissance faciale projettent des photos de jaywalkers, avec des noms et des numéros d'identification, sur un panneau d'affichage.
Ce n'est pas la technologie qui a créé les politiques, mais la technologie élargit considérablement les types de données que le gouvernement chinois peut collecter sur les individus, déclare Richard McGregor, chercheur principal à l'Institut Lowy et auteur de Le parti : le monde secret des dirigeants communistes chinois . Internet en Chine agit comme un service de renseignement numérique privé en temps réel.
Police algorithmique
Écrire dans le Poste de Washington plus tôt cette année, Xiao Qiang, professeur de communication à l'Université de Californie à Berkeley, a qualifié la gouvernance chinoise améliorée par les données d'État numérique totalitaire. Les aspects dystopiques sont plus manifestement exposés dans l'ouest de la Chine.
Le Xinjiang (Nouveau Territoire) est le foyer traditionnel d'une minorité musulmane chinoise connue sous le nom de Ouïghours. Alors qu'un grand nombre de migrants chinois Han se sont installés - certains disent colonisés - dans la région, les possibilités de travail et de religion offertes à la population ouïghoure locale ont diminué. L'un des résultats a été une montée de la violence dans laquelle les Han et les Ouïghours ont été ciblés, y compris une émeute en 2009 dans la capitale Urumqi, au cours de laquelle 200 personnes auraient été tuées. La réponse du gouvernement à la montée des tensions n'a pas été d'organiser des forums publics pour solliciter des opinions ou des conseils politiques. Au lieu de cela, l'État utilise la collecte de données et des algorithmes pour déterminer qui est susceptible de commettre de futurs actes de violence ou de défi.
Le gouvernement du Xinjiang a fait appel à une entreprise privée pour concevoir les algorithmes prédictifs qui évaluent divers flux de données. Il n'y a pas de dossier public ni de responsabilité sur la façon dont ces calculs sont construits ou pondérés. Les personnes vivant sous ce système ne savent généralement même pas quelles sont les règles, explique Rian Thum, anthropologue à l'Université Loyola qui étudie le Xinjiang et qui a vu les avis de marchés publics émis lors de la construction du système.
Dans la ville de Kashgar, dans l'ouest du pays, de nombreuses maisons familiales et magasins dans les rues principales sont désormais condamnés et les places publiques sont vides. Lors de ma visite en 2013, il était clair que Kashgar était déjà une ville ségréguée - les populations Han et Ouïghour vivaient et travaillaient dans des quartiers distincts de la ville. Mais le soir, c'était aussi un lieu animé et souvent bruyant, où les sons de l'appel à la prière se mêlaient à la musique de danse des clubs locaux et aux conversations des vieillards assis tard dans des chaises en plastique sur les patios. Aujourd'hui, la ville est étrangement calme ; la vie publique de quartier a pratiquement disparu. Emily Feng, journaliste pour le Financial Times , s'est rendu à Kashgar en juin et a publié sur Twitter des photos des rues nouvellement vacantes.
La raison en est que, selon certaines estimations, plus d'un adulte ouïghour et kazakh sur 10 au Xinjiang a été envoyé dans des camps de rééducation entourés de barbelés - et ceux qui restent en liberté ont peur.
Au cours des deux dernières années, des milliers de points de contrôle ont été mis en place, auxquels les passants doivent présenter à la fois leur visage et leur carte d'identité nationale pour emprunter une autoroute, entrer dans une mosquée ou visiter un centre commercial. Les Ouïghours sont tenus d'installer des applications de suivi conçues par le gouvernement sur leurs smartphones, qui surveillent leurs contacts en ligne et les pages Web qu'ils ont visitées. Les policiers visitent régulièrement les maisons locales pour collecter des données supplémentaires sur des éléments tels que le nombre de personnes vivant dans le ménage, leurs relations avec leurs voisins, le nombre de fois où les gens prient quotidiennement, s'ils ont voyagé à l'étranger et quels livres ils ont.
Tous ces flux de données sont introduits dans le système de sécurité publique du Xinjiang, ainsi que d'autres enregistrements capturant des informations sur tout, des antécédents bancaires à la planification familiale. Le programme informatique regroupe toutes les données de ces différentes sources et signale ceux qui pourraient devenir 'une menace' pour les autorités, explique Wang. Bien que l'algorithme précis soit inconnu, on pense qu'il peut mettre en évidence des comportements tels que visiter une mosquée particulière, posséder beaucoup de livres, acheter une grande quantité d'essence ou recevoir des appels téléphoniques ou des e-mails de contacts à l'étranger. Les personnes qu'il signale sont visitées par la police, qui peut les arrêter et les mettre en prison ou dans des camps de rééducation sans aucune accusation formelle.
Les visiteurs de la place Tiananmen à Pékin scannent leurs pièces d'identité à un point de contrôle.
Adrian Zenz, politologue à l'École européenne de culture et de théologie de Korntal, en Allemagne, calcule que le taux d'internement des minorités au Xinjiang peut atteindre 11,5 % de la population adulte. Ces camps sont conçus pour inculquer le patriotisme et faire désapprendre les croyances religieuses. (De nouveaux avis d'approvisionnement pour les agents de sécurité de la crémation semblent indiquer que le gouvernement essaie également d'éradiquer les pratiques funéraires musulmanes traditionnelles dans la région.)
Alors que le Xinjiang représente un extrême draconien, ailleurs en Chine, les citoyens commencent à s'opposer à certains types de surveillance. Une société Internet qui diffusait en ligne des images de télévision en circuit fermé a interrompu ces émissions après un tollé général. La ville de Shanghai a récemment publié des règlements pour permettre aux gens de contester les informations incorrectes utilisées pour compiler les dossiers de crédit social. Les internautes chinois demandent de plus en plus de respect de la vie privée, explique Samm Sacks, chercheur principal au programme de politique technologique du CSIS à New York. Ce n'est pas tout à fait le libre pour tous qu'il est censé être.
Christina Larson est une correspondante étrangère et journaliste scientifique primée, écrivant principalement sur la Chine et l'Asie.