Comment empoisonner les données que Big Tech utilise pour vous surveiller

Éric Risberg / AP

Chaque jour, votre vie laisse une traînée de chapelure numérique que les géants de la technologie utilisent pour vous suivre. Vous envoyez un e-mail, commandez de la nourriture, diffusez une émission. Ils récupèrent de précieux paquets de données pour approfondir leur compréhension de vos préférences. Ces données sont introduites dans des algorithmes d'apprentissage automatique pour vous cibler avec des publicités et des recommandations. Google encaisse vos données pour plus de 120 milliards de dollars par an de revenus publicitaires.

De plus en plus, nous ne pouvons plus nous retirer de cet arrangement. En 2019, Kashmir Hill, alors journaliste pour Gizmodo, a tenté de a coupé cinq grands géants de la technologie de sa vie . Elle a passé six semaines à être misérable, luttant pour exécuter des fonctions numériques de base. Les géants de la technologie, quant à eux, n'ont même pas ressenti de démangeaisons.

Aujourd'hui, des chercheurs de la Northwestern University proposent de nouvelles façons de corriger ce déséquilibre de pouvoir en traitant notre collectif données comme monnaie d'échange. Les géants de la technologie peuvent avoir à leur disposition des algorithmes sophistiqués, mais ils n'ont aucun sens sans suffisamment de bonnes données pour s'entraîner.

Dans un nouveau papier présenté à l'Association for Computing Machinery Conférence sur l'équité, la responsabilité et la transparence la semaine prochaine, des chercheurs, dont les doctorants Nicholas Vincent et Hanlin Li, proposent trois façons pour le public d'exploiter cela à son avantage :

• Attaques liées aux données , inspiré par l'idée des grèves du travail, qui impliquent la rétention ou la suppression de vos données afin qu'une entreprise technologique ne puisse pas les utiliser, en quittant une plate-forme ou en installant des outils de confidentialité, par exemple.
• Empoisonnement des données , ce qui implique de fournir des données dénuées de sens ou préjudiciables. AdNauseam , par exemple, est une extension de navigateur qui clique sur chaque annonce qui vous est proposée, ce qui perturbe les algorithmes de ciblage publicitaire de Google.
• Contribution consciente aux données , ce qui implique de donner du sens plein données au concurrent d'une plate-forme que vous souhaitez protester, par exemple en téléchargeant vos photos Facebook sur Tumblr à la place.

Les gens utilisent déjà bon nombre de ces tactiques pour protéger leur propre vie privée. Si vous avez déjà utilisé un bloqueur de publicités ou une autre extension de navigateur qui modifie vos résultats de recherche pour exclure certains sites Web, vous vous êtes engagé dans la suppression de données et récupéré une certaine agence sur l'utilisation de vos données. Mais comme Hill l'a découvert, des actions individuelles sporadiques comme celles-ci ne font pas grand-chose pour amener les géants de la technologie à changer leur comportements.

Et si des millions de personnes se coordonnaient pour bien empoisonner les données d'un géant de la technologie ? Cela pourrait simplement leur donner un certain poids pour faire valoir leurs revendications.

Il y en a peut-être déjà eu quelques exemples. En janvier, des millions d'utilisateurs ont supprimé leurs comptes WhatsApp et sont passés à des concurrents comme Signal et Telegram après que Facebook a annoncé qu'il commencerait à partager les données de WhatsApp avec le reste de l'entreprise. L'exode a poussé Facebook à retard sa politique change.

Juste cette semaine, Google également annoncé qu'il cesserait de suivre les individus sur le Web et de leur cibler des publicités. Bien qu'il ne soit pas clair s'il s'agit d'un véritable changement ou simplement d'un changement de marque, dit Vincent, il est possible que l'utilisation accrue d'outils comme AdNauseam ait contribué à cette décision en dégradant l'efficacité des algorithmes de l'entreprise. (Bien sûr, c'est finalement difficile à dire. La seule personne qui sait vraiment à quel point un mouvement de levier de données a eu un impact sur un système est l'entreprise technologique, dit-il.)

Vincent et Li pensent que ces campagnes peuvent compléter des stratégies telles que la défense des politiques et l'organisation des travailleurs dans le mouvement pour résister aux Big Tech.

C'est excitant de voir ce genre de travail, déclare Ali Alkhatib, chercheur au Center for Applied Data Ethics de l'Université de San Francisco, qui n'a pas participé à la recherche. C'était vraiment intéressant de les voir réfléchir à la vision collective ou holistique : nous pouvons jouer avec le puits et faire des demandes avec cette menace, car ce sont nos données et tout va dans ce puits ensemble.

Histoire connexe

C'est ainsi que nous avons perdu le contrôle de nos visages

La plus grande étude jamais réalisée sur les données de reconnaissance faciale montre à quel point l'essor de l'apprentissage en profondeur a alimenté une perte de confidentialité.

Il reste encore du travail à faire pour généraliser ces campagnes. Les informaticiens pourraient jouer un rôle important dans la création de plus d'outils comme AdNauseam, par exemple, ce qui aiderait à réduire les obstacles à la participation à de telles tactiques. Les décideurs politiques pourraient également aider. Les grèves de données sont plus efficaces lorsqu'elles sont renforcées par des lois strictes sur la confidentialité des données, telles que le règlement général sur la protection des données (RGPD) de l'Union européenne, qui donne aux consommateurs le droit de demander la suppression de leurs données. Sans une telle réglementation, il est plus difficile de garantir qu'une entreprise technologique vous donnera la possibilité de nettoyer vos enregistrements numériques, même si vous supprimez votre compte.

Et certaines questions restent sans réponse. De combien de personnes une attaque de données a-t-elle besoin pour endommager l'algorithme d'une entreprise ? Et quel type de données serait le plus efficace pour empoisonner un système particulier ? Dans une simulation impliquant un algorithme de recommandation de films, par exemple, les chercheurs ont découvert que si 30 % des utilisateurs se mettaient en grève, cela pourrait réduire la précision du système de 50 %. Mais chaque système d'apprentissage automatique est différent et les entreprises les mettent constamment à jour. Les chercheurs espèrent que davantage de personnes dans la communauté de l'apprentissage automatique pourront exécuter des simulations similaires des systèmes de différentes entreprises et identifier leurs vulnérabilités.

Alkhatib suggère que les chercheurs devraient également faire plus de recherches sur la façon d'inspirer l'action collective sur les données. L'action collective est vraiment difficile, dit-il. Amener les gens à donner suite à l'action en cours est un défi. Et puis il y a le défi de savoir comment garder un groupe de personnes très transitoires - dans ce cas, il peut s'agir de personnes qui utilisent un moteur de recherche pendant cinq secondes - pour se considérer comme faisant partie d'une communauté qui a réellement de la longévité ?

Ces tactiques pourraient également avoir des conséquences en aval qui nécessitent un examen attentif, ajoute-t-il. L'empoisonnement des données pourrait-il finir par simplement ajouter plus de travail aux modérateurs de contenu et aux autres personnes chargées de nettoyer et d'étiqueter les données de formation des entreprises ?

Mais dans l'ensemble, Vincent, Li et Alkhatib sont optimistes sur le fait que l'exploitation des données pourrait se transformer en un outil persuasif pour façonner la façon dont les géants de la technologie traitent nos données et notre vie privée. Les systèmes d'IA dépendent des données. C'est juste un fait sur la façon dont ils fonctionnent, dit Vincent. En fin de compte, c'est une façon pour le public d'accéder au pouvoir.

cacher