Comment les démocraties peuvent reprendre le pouvoir dans le monde numérique

Mme Tech | Getty

Twitter devrait-il censurer les mensonges tweetés par le président américain ? YouTube devrait-il supprimer les informations erronées sur le covid-19 ? Facebook devrait-il faire plus contre les discours de haine ? De telles questions, qui surgissent quotidiennement dans la couverture médiatique, peuvent donner l'impression que le principal risque technologique pour les démocraties est la conservation du contenu par les entreprises de médias sociaux. Pourtant, ces controverses ne sont que les symptômes d'une menace plus vaste : l'ampleur du pouvoir privatisé sur le monde numérique.

Tous les pays démocratiques du monde sont confrontés au même défi, mais aucun ne peut le désamorcer seul. Nous avons besoin d'une alliance démocratique mondiale pour établir des normes, des règles et des lignes directrices pour les entreprises technologiques et pour convenir de protocoles pour les activités numériques transfrontalières, y compris l'ingérence électorale, la cyberguerre et le commerce en ligne. Les citoyens sont mieux représentés lorsqu'une coalition de leurs gouvernements - plutôt qu'une poignée de dirigeants d'entreprises - définit les termes de la gouvernance et lorsque des mécanismes de contrôle, de contrepoids et de surveillance sont en place.

Il existe une longue liste de façons dont les entreprises technologiques régissent nos vies sans trop de réglementation. Dans des domaines allant de la construction d'infrastructures critiques et de leur défense - ou même la production de cyber-outils offensifs - à la conception de systèmes d'intelligence artificielle et de bases de données gouvernementales, les décisions prises dans l'intérêt des entreprises établissent des normes et des standards pour des milliards de personnes.

De plus en plus, les entreprises assument les rôles de l'État ou développent des produits qui affectent les droits fondamentaux. Par exemple, les systèmes de reconnaissance faciale qui n'ont jamais été correctement réglementés avant d'être développés et déployés sont maintenant si largement utilisés qu'ils privent les gens de leur vie privée. De même, les entreprises récupèrent systématiquement des données privées, souvent sans consentement, une norme de l'industrie que les régulateurs ont mis du temps à aborder.

Histoire connexe

Pourquoi le Congrès devrait regarder Twitter et Facebook Si les politiciens américains se soucient vraiment des dommages que peuvent causer les plateformes en ligne, ils devraient se pencher sur les théories du complot en ligne et sur la façon dont elles sont aggravées par la conception des sites de médias sociaux.

Étant donné que les technologies évoluent plus rapidement que les lois, les écarts entre les agences privées et la surveillance publique se creusent. Prenez, par exemple, les entreprises de villes intelligentes, qui promettent que les gouvernements locaux seront en mesure de réduire la congestion en surveillant les voitures en temps réel et en ajustant la synchronisation des feux de circulation. Contrairement, par exemple, à une route construite par une entreprise de construction, cette infrastructure numérique n'est pas nécessairement dans le domaine public. Les entreprises qui le construisent acquièrent des connaissances et de la valeur qui peuvent ne pas revenir au public.

Cette disparité entre les secteurs public et privé devient incontrôlable. Il existe un déficit d'information, un déficit de talents et un déficit de calcul. Ensemble, ces éléments créent un écart de pouvoir et de responsabilité. Toute une couche de contrôle de notre vie quotidienne existe donc sans légitimité démocratique et avec peu de contrôle.

Pourquoi devrions-nous nous en soucier ? Parce que les décisions que les entreprises prennent concernant les systèmes numériques peuvent ne pas respecter les principes démocratiques essentiels tels que la liberté de choix, la concurrence loyale, la non-discrimination, la justice et la responsabilité. Les conséquences imprévues des processus technologiques, les mauvaises décisions ou les conceptions axées sur les entreprises pourraient créer de graves risques pour la sécurité publique et la sécurité nationale. Et un pouvoir qui n'est pas soumis à des freins et contrepoids systématiques est en contradiction avec les principes fondateurs de la plupart des démocraties.

Aujourd'hui, la réglementation technologique est souvent caractérisée comme une lutte à trois entre les systèmes dirigés par l'État en Chine et en Russie, celui axé sur le marché aux États-Unis et une vision fondée sur des valeurs en Europe. La réalité, cependant, est qu'il n'y a que deux systèmes dominants de gouvernance technologique : le système privatisé décrit ci-dessus, qui s'applique à l'ensemble du monde démocratique, et le système autoritaire.

Pour mettre au pas les entreprises technologiques mondiales, nous avons besoin de quelque chose de nouveau : une alliance mondiale qui place la démocratie au premier plan.

L'approche de laisser-faire des gouvernements démocratiques et leur réticence à freiner les entreprises privées chez eux se répercutent également sur la scène internationale. Alors que les gouvernements démocratiques ont largement permis aux entreprises de gouverner, les gouvernements autoritaires ont commencé à façonner les normes par le biais de forums internationaux. Ce changement malheureux coïncide avec une tendance au déclin démocratique dans le monde, alors que de grandes démocraties comme l'Inde, la Turquie et le Brésil sont devenues plus autoritaires. Sans des efforts délibérés et immédiats de la part des gouvernements démocratiques pour reconquérir l'agence, les modèles de gouvernance d'entreprise et autoritaires éroderont la démocratie partout.

Cela signifie-t-il que les gouvernements démocratiques devraient plutôt construire leurs propres plateformes de médias sociaux, centres de données et téléphones mobiles ? Non. Mais ils doivent de toute urgence reprendre leur rôle dans la création de règles et de restrictions qui respectent les principes fondamentaux de la démocratie dans le domaine technologique. Jusqu'à présent, ces gouvernements ont lentement commencé à le faire avec des lois au niveau national ou, dans le cas de l'Europe, au niveau régional. Mais pour mettre au pas les entreprises technologiques mondiales, nous avons besoin de quelque chose de nouveau : une alliance mondiale qui place la démocratie au premier plan.

Associant

Les institutions mondiales nées au lendemain de la Seconde Guerre mondiale, comme les Nations Unies, l'Organisation mondiale du commerce et l'Organisation du Traité de l'Atlantique Nord, ont créé un ordre international fondé sur des règles. Mais ils ne prennent pas pleinement en compte le monde numérique dans leurs mandats et leurs agendas, même si beaucoup commencent enfin à se concentrer sur la coopération numérique, le commerce électronique et la cybersécurité. Et tandis que le commerce numérique (qui nécessite ses propres réglementations, telles que des règles pour le commerce électronique et des critères pour l'échange de données) revêt une importance croissante, les membres de l'OMC ne se sont pas mis d'accord sur des règles mondiales couvrant les services pour la fabrication intelligente, les chaînes d'approvisionnement numériques et autres transactions numériques.

Ce dont nous avons besoin maintenant, c'est donc d'une large coalition démocratique qui puisse offrir une alternative significative aux deux modèles existants de gouvernance technologique, le privatisé et l'autoritaire. Il devrait s'agir d'une coalition mondiale, accueillant les pays qui répondent aux critères démocratiques.

La Communauté des démocraties, une coalition d'États qui a été créée en 2000 pour faire progresser la démocratie mais qui n'a jamais eu beaucoup d'impact, pourrait être réorganisée et mise à niveau pour inclure un mandat ambitieux pour la gouvernance de la technologie. Alternativement, un D7 ou un D20 pourrait être établi - une coalition semblable au G7 ou au G20 mais composée des plus grandes démocraties du monde.

Un tel groupe se mettrait d'accord sur des réglementations et des normes technologiques conformes aux principes démocratiques fondamentaux. Ensuite, chaque pays membre les mettrait en œuvre à sa manière, un peu comme les États membres de l'UE le font aujourd'hui avec les directives de l'UE.

Quels problèmes une telle coalition résoudrait-elle ? La coalition pourrait, par exemple, adopter une définition commune de liberté d'expression pour les entreprises de médias sociaux à suivre. Cette définition serait peut-être similaire à l'approche européenne largement partagée, où l'expression est libre mais il existe des exceptions claires pour les discours de haine et les incitations à la violence.

Ou la coalition pourrait limiter la pratique de annonces politiques de micro-ciblage sur les réseaux sociaux : cela pourrait, par exemple, interdire aux entreprises de permettre aux annonceurs de personnaliser et de cibler les publicités sur la base de la religion, de l'ethnie, de l'orientation sexuelle ou des données personnelles collectées. À tout le moins, la coalition pourrait plaider pour plus de transparence sur le microciblage afin de créer un débat plus éclairé sur les pratiques de collecte de données qui devraient être interdites.

La coalition démocratique pourrait également adopter des normes et des méthodes de contrôle pour opérations numériques des élections et des campagnes . Cela pourrait signifier convenir des exigences de sécurité pour les machines à voter, ainsi que des normes d'anonymat, des tests de résistance et des méthodes de vérification telles que l'exigence d'une copie papier pour chaque vote. Et toute la coalition pourrait accepter d'imposer des sanctions à tout pays ou acteur non étatique qui interfère avec une élection ou un référendum dans l'un des États membres.

Histoire connexe

Pourquoi l'interdiction des publicités politiques de Facebook s'attaque au mauvais problème Un moratoire sur les nouvelles publicités politiques juste avant le jour des élections s'attaque à un type de défi causé par les médias sociaux. Ce n'est tout simplement pas celui qui compte.

Une autre tâche que la coalition pourrait entreprendre est de développer règles commerciales pour l'économie numérique . Par exemple, les membres pourraient convenir de ne jamais exiger que les entreprises remettent le code source des logiciels aux autorités étatiques, comme le fait la Chine. Ils pourraient également convenir d'adopter des règles communes en matière de protection des données pour les transactions transfrontalières. De telles mesures permettraient à une sorte de zone de libre-échange numérique de se développer entre des nations partageant les mêmes idées.

La Chine a déjà quelque chose de similaire sous la forme d'eWTP, une plate-forme commerciale qui permet un commerce mondial en franchise de droits pour les transactions inférieures à un million de dollars. Mais eWTP, qui a été lancé par le géant du commerce électronique Alibaba, est géré par des entreprises du secteur privé basées en Chine. Le gouvernement chinois est connu pour avoir accès aux données par le biais d'entreprises privées. Sans une alternative publique fondée sur des règles, l'eWTP pourrait devenir la plate-forme mondiale de facto pour le commerce numérique, sans mandat ni contrôle démocratique.

Une autre question que cette coalition pourrait aborder serait la sécurité des chaînes d'approvisionnement pour les appareils comme les téléphones et les ordinateurs portables. De nombreux pays ont interdit les smartphones et les équipements de télécommunications de Huawei par crainte que la technologie de l'entreprise ne comporte des vulnérabilités intégrées ou des portes dérobées que le gouvernement chinois pourrait exploiter. L'élaboration proactive de normes communes pour protéger l'intégrité des chaînes d'approvisionnement et des produits créerait des conditions équitables entre les membres de la coalition et renforcerait la confiance dans les entreprises qui acceptent de les respecter.

Le prochain domaine qui pourrait mériter l'attention de la coalition est cyberguerre et conflit hybride (où l'agression numérique et physique se conjuguent). Au cours de la dernière décennie, un nombre croissant de pays ont identifié les conflits hybrides comme une menace pour la sécurité nationale. Toute nation disposant de cyber-opérations hautement qualifiées peut faire des ravages dans les pays qui n'investissent pas dans des défenses contre elles. Pendant ce temps, les cyberattaques d'acteurs non étatiques ont modifié l'équilibre des pouvoirs entre les États.

À l'heure actuelle, cependant, il n'existe aucun critère international définissant à quel moment une cyberattaque est considérée comme un acte de guerre. Cela encourage les mauvais acteurs à frapper avec de nombreux petits coups. En plus de leur effet économique ou (géo)politique immédiat, de telles attaques érodent la confiance que justice sera rendue.

Une coalition démocratique pourrait travailler à combler cet écart de responsabilité et initier un tribunal indépendant pour enquêter sur de telles attaques, peut-être semblable à la Cour permanente d'arbitrage de La Haye, qui statue sur les différends internationaux. Les dirigeants de l'alliance démocratique pourraient alors décider, sur la base des décisions du tribunal, si des sanctions économiques et politiques devraient suivre.

Ce ne sont là que quelques-unes des façons dont une coalition démocratique mondiale pourrait faire avancer des règles qui font cruellement défaut dans la sphère numérique. Les normes de la coalition pourraient effectivement devenir mondiales si ses membres représentent une bonne partie de la population mondiale. Le règlement général sur la protection des données de l'UE fournit un exemple de la façon dont cela pourrait fonctionner. Bien que le RGPD ne s'applique qu'à l'Europe, les entreprises technologiques mondiales doivent suivre ses règles pour leurs utilisateurs européens, ce qui rend plus difficile l'objection car d'autres juridictions adoptent des lois similaires. De même, les non-membres de la coalition démocratique pourraient finir par suivre bon nombre de ses règles afin de profiter des avantages.

Si les gouvernements démocratiques n'assument pas plus de pouvoir dans la gouvernance technologique à mesure que les gouvernements autoritaires deviennent plus puissants, le monde numérique - qui fait partie de notre vie quotidienne - ne sera pas démocratique. Sans un système de légitimité claire pour ceux qui gouvernent - sans freins, contrepoids et mécanismes de surveillance indépendante - il est impossible de tenir les entreprises technologiques responsables. Ce n'est qu'en créant une coalition mondiale pour la gouvernance technologique que les gouvernements démocratiques pourront à nouveau donner la priorité à la démocratie.

Marietje Schaake est directeur des politiques internationales au Cyber ​​Policy Center de l'Université de Stanford et chercheur en politique internationale à l'Institut d'intelligence artificielle centrée sur l'homme de Stanford. Entre 2009 et 2019, Marietje a été députée européenne du parti libéral-démocrate néerlandais.

cacher