Bien sûr, la technologie perpétue le racisme. Il a été conçu ainsi.

Photo source : Getty / Mme Tech

Aujourd'hui, les États-Unis croulent sous le poids de deux pandémies : le coronavirus et la brutalité policière.

Les deux provoquent des violences physiques et psychologiques. Les deux tuent et affaiblissent de manière disproportionnée les personnes noires et brunes. Et les deux sont animés par une technologie que nous concevons, réaffectons et déployons, qu'il s'agisse de la recherche des contacts, de la reconnaissance faciale ou des médias sociaux.

Cette histoire faisait partie de notre numéro de juillet 2020

• Voir la suite du problème
• S'abonner

Nous faisons souvent appel à la technologie pour aider à résoudre les problèmes. Mais lorsque la société définit, encadre et représente les personnes de couleur comme le problème, ces solutions font souvent plus de mal que de bien. Nous avons conçu technologies de reconnaissance faciale qui ciblent les suspects criminels sur la base de la couleur de la peau. Nous avons systèmes de profilage de risque automatisés formés qui identifient de manière disproportionnée les Latinx comme des immigrants illégaux. Nous avons a conçu des algorithmes de notation de crédit qui identifient de manière disproportionnée les Noirs comme des risques et les empêchent d'acheter des maisons, d'obtenir des prêts ou de trouver un emploi.

La question à laquelle nous devons donc faire face est de savoir si nous continuerons à concevoir et à déployer des outils qui servent les intérêts du racisme et de la suprématie blanche,

Bien sûr, ce n'est pas du tout une question nouvelle.

Droits incivils

En 1960, les dirigeants du Parti démocrate ont été confrontés à leur propre problème : comment leur candidat à la présidence, John F. Kennedy, a-t-il pu s'assurer le soutien décroissant des Noirs et des autres minorités raciales ?

Un politologue entreprenant au MIT, Ithiel de Sola piscine , les a approchés avec une solution. Il rassemblerait les données des électeurs des élections présidentielles précédentes, les introduirait dans une nouvelle machine de traitement numérique, développerait un algorithme pour modéliser le comportement de vote, prédirait quelles positions politiques conduiraient aux résultats les plus favorables, puis conseillerait à la campagne Kennedy d'agir en conséquence. Pool a créé une nouvelle société, la Société Simulmatics , et exécuta son plan. Il a réussi, Kennedy a été élu et les résultats ont montré la puissance de cette nouvelle méthode de modélisation prédictive.

La tension raciale s'est intensifiée tout au long des années 1960. Puis vint le long et chaud été de 1967. Des villes à travers le pays brûlèrent, de Birmingham, Alabama, à Rochester, New York, à Minneapolis Minnesota, et bien d'autres entre les deux. Les Noirs américains ont protesté contre l'oppression et la discrimination auxquelles ils étaient confrontés de la part du système de justice pénale américain. Mais le président Johnson a qualifié cela de désordre civil et a formé la Commission Kerner pour comprendre les causes des émeutes du ghetto. La commission a fait appel à Simulmatics.

Dans le cadre d'un projet DARPA visant à inverser le cours de la guerre du Vietnam, la société de Pool avait travaillé dur pour préparer une campagne massive de propagande et psychologique contre le Vietcong. Le président Johnson était impatient de déployer la technologie d'influence comportementale de Simulmatics pour réprimer la menace intérieure de la nation, pas seulement ses ennemis étrangers. Sous couvert de ce qu'ils ont appelé une étude médiatique, Simulmatics a constitué une équipe pour ce qui équivalait à une campagne de surveillance à grande échelle dans les zones touchées par les émeutes qui a attiré l'attention de la nation cet été 1967.

Des équipes de trois membres se sont rendues dans des zones où des émeutes avaient eu lieu cet été-là. Ils ont identifié et interviewé des Noirs stratégiquement importants. Ils ont suivi pour identifier et interroger d'autres résidents noirs, dans tous les lieux, des salons de coiffure aux églises. Ils ont demandé aux habitants ce qu'ils pensaient de la couverture médiatique des émeutes. Mais ils ont également collecté des données sur bien plus encore : comment les gens se sont déplacés dans et autour de la ville pendant les troubles, à qui ils ont parlé avant et pendant, et comment ils se sont préparés aux conséquences. Ils ont recueilli des données sur l'utilisation des postes de péage, les ventes des stations-service et les itinéraires de bus. Ils sont entrés dans ces communautés sous prétexte d'essayer de comprendre comment les médias d'information étaient censés enflammer les émeutes. Mais Johnson et les dirigeants politiques du pays essayaient de résoudre un problème. Ils visaient à utiliser les informations collectées par Simulmatics pour suivre le flux d'informations pendant les manifestations afin d'identifier les influenceurs et de décapiter les dirigeants des manifestations.

Ils n'ont pas accompli cela directement. Ils n'ont pas tué des gens, mis des gens en prison ou les ont secrètement fait disparaître.

Mais à la fin des années 1960, ce type d'information avait contribué à créer ce que l'on appelait les systèmes d'information sur la justice pénale. Ils ont proliféré au fil des décennies, jetant les bases du profilage racial, de la police prédictive et de la surveillance raciale ciblée. Ils ont laissé derrière eux un héritage qui comprend des millions de femmes et d'hommes noirs et bruns incarcérés.

Recadrer le problème

La noirceur et les noirs. Les deux persistent en tant que problème de notre nation – oserais-je dire même de notre monde. Lorsque la recherche des contacts est apparue pour la première fois au début de la pandémie, il était facile de la considérer comme un outil de surveillance de la santé nécessaire mais bénin. Le coronavirus était notre problème, et nous avons commencé à concevoir de nouvelles technologies de surveillance sous la forme d'applications de recherche des contacts, de surveillance de la température et de cartographie des menaces pour aider à y faire face.

Mais quelque chose à la fois curieux et tragique s'est produit. Nous avons découvert que les Noirs, les Latinx et les populations indigènes étaient infectés et affectés de manière disproportionnée. Soudain, nous sommes aussi devenus un problème national ; nous avons menacé de manière disproportionnée de propager le virus. Cela a été aggravé lorsque le meurtre tragique de George Floyd par un policier blanc a envoyé des milliers de manifestants dans les rues. Lorsque les pillages et les émeutes ont commencé, nous, les Noirs, étions à nouveau considérés comme une menace pour la loi et l'ordre, une menace pour un système qui perpétue le pouvoir racial blanc. Cela vous fait vous demander combien de temps il faudra aux forces de l'ordre pour déployer ces technologies que nous avons d'abord conçues pour lutter contre le covid-19 afin de réprimer la menace que les Noirs sont censés représenter pour la sécurité de la nation.

Si nous ne voulons pas que notre technologie soit utilisée pour perpétuer le racisme, nous devons nous assurer de ne pas confondre les problèmes sociaux comme le crime, la violence ou la maladie avec les personnes noires et brunes. Lorsque nous faisons cela, nous risquons de transformer ces personnes en problèmes que nous déployons avec notre technologie pour résoudre, la menace que nous la concevons pour éradiquer.

Charlton McIlwain est professeur de médias, de culture et de communication à l'Université de New York et auteur de Black Software : Internet et justice raciale, de l'AfroNet à Black Lives Matter

cacher