L'activiste démonte les algorithmes racistes de la police

Damon Casarez

Hamid Khan est un organisateur communautaire à Los Angeles depuis plus de 35 ans, avec un accent constant sur la violence policière et les droits de l'homme. Il nous a parlé le 3 avril 2020, pour un prochain épisode de podcast sur l'intelligence artificielle et la police. Alors que le monde tourne son attention vers la brutalité policière et le racisme institutionnel, nous avons pensé que notre conversation avec lui sur la façon dont il pense que la technologie permet le racisme dans la police devrait être publiée maintenant.

Khan est le fondateur de la Stop LAPD Spying Coalition, qui a remporté de nombreux affaires judiciaires marquantes au nom des communautés minoritaires pour lesquelles il se bat. Son travail est peut-être mieux connu pour son plaidoyer contre la police prédictive. Le 21 avril, quelques semaines après cet entretien, le LAPD a annoncé la fin de tous les programmes de police prédictive .

Khan est un personnage controversé qui a refusé des partenariats avec des groupes comme l'Electronic Frontier Foundation (EFF) en raison de son accent sur la réforme. Il ne croit pas que la réforme fonctionnera. L'interview a été modifiée pour plus de longueur et de clarté.

Parlez-nous de votre travail. Pourquoi vous souciez-vous de la surveillance policière?

Le travail que nous effectuons, en particulier en ce qui concerne le département de police de Los Angeles, examine comment la surveillance, la collecte, le stockage et le partage d'informations ont historiquement été utilisés pour causer du tort, pour retracer, suivre, surveiller, traquer des communautés particulières : des communautés qui sont pauvres, qui sont noirs et bruns, des communautés qui seraient considérées comme suspectes et des corps trans queer. Ainsi, à différents niveaux, la surveillance est un processus de contrôle social.

Croyez-vous que la technologie a un rôle à jouer dans les services de police?

La Stop LAPD Spying Coalition a quelques valeurs directrices. La première est que ce que nous regardons n'est pas un moment dans le temps mais une continuation de l'histoire. La surveillance est utilisée depuis des centaines d'années. Certains des premiers processus de surveillance remontent aux lois sur les lanternes à New York au début des années 1700. Si vous étiez un esclave, un noir ou un indigène, et si vous vous promeniez dans l'espace public sans votre maître, vous deviez marcher avec une véritable lanterne littérale, avec la mèche de bougie et tout, pour vous identifier vous-même en tant que suspect, en tant qu'autre.

Une autre valeur directrice est qu'il y a toujours un autre. Historiquement parlant, il y a toujours une menace pour le système. Il y a toujours un corps, un individu ou des groupes de personnes qui sont considérés comme dangereux. Ils sont jugés suspects.

La troisième valeur est que nous cherchons toujours à désensibiliser la rhétorique de la sécurité nationale. Pour que ce soit très simple et direct, [nous essayons de montrer] comment évolue l'environnement de collecte et de partage d'informations et comment il s'agit de garder un œil sur tout le monde.

Les algorithmes n'ont pas leur place dans le maintien de l'ordre.

Et l'une de nos dernières valeurs directrices est que notre combat est ancré dans les droits de l'homme. Nous sommes un groupe farouchement abolitionniste, donc notre objectif est de démanteler le système. Nous ne nous engageons pas dans un travail réformiste. Nous considérons également tout développement de politique autour de la transparence, de la responsabilité et de la surveillance comme un modèle pour la dérive de la mission. Chaque fois que la surveillance est légitimée, elle peut être étendue au fil du temps. En ce moment, nous nous battons pour maintenir les drones au sol à Los Angeles, et nous avons pu les maintenir au sol pendant quelques années. Et fin mars, le département de police de Chula Vista à San Diego a annoncé qu'il allait équiper leurs drones de haut-parleurs pour surveiller le mouvement des personnes sans logement.

Pouvez-vous expliquer le travail que la Stop LAPD Spying Coalition a fait sur la police prédictive ? Quels sont les problèmes avec cela de votre point de vue?

PredPol était une police prédictive basée sur la localisation dans laquelle un emplacement de 500 par 500 pieds carrés a été identifié comme un point chaud. L'autre programme complémentaire, Operation Laser, était une police prédictive axée sur la personne.

En 2010, nous avons examiné les différentes manières dont ces programmes [de surveillance LAPD] étaient institués. La police prédictive était un programme clé. Nous avons officiellement lancé une campagne en 2016 pour comprendre l'impact de la police prédictive à Los Angeles dans le but de démanteler le programme, d'apporter cette information à la communauté et de riposter.

La police prédictive axée sur la personne prétendait que pour les individus appelés personnes d'intérêt ou récidivistes, qui pouvaient avoir des antécédents dans le passé, nous pouvions utiliser un outil d'évaluation des risques pour établir qu'ils allaient récidiver. C'était donc un jeu de chiffres. S'ils avaient possédé une arme à feu dans le passé, ils se voyaient attribuer cinq points. S'ils étaient en liberté conditionnelle ou en probation, cinq points leur étaient attribués. S'ils étaient affiliés à un gang, cinq points leur étaient attribués. S'ils avaient eu des interactions avec la police comme un stop-and-frisk, ils se verraient attribuer un point. Et c'est là que des personnes en liberté conditionnelle ou en probation ou qui s'occupaient de leurs propres affaires et reconstruisaient leur vie ont ensuite été placées dans ce qui est devenu connu sous le nom de programme pour délinquants chroniques, à l'insu de beaucoup de gens.

Ainsi, l'emplacement est criminalisé, les gens sont criminalisés, et ce n'est que quelques secondes avant que l'arme ne sorte et que quelqu'un soit abattu et tué.

Ensuite, sur la base de cette évaluation des risques, où Palantir traite toutes les données , le LAPD a créé une liste. Ils ont commencé à publier des bulletins, qui ressemblaient à une affiche des personnes les plus recherchées avec les photos, les adresses et l'histoire de ces personnes, et les ont mis dans des voitures de patrouille. [Ils] ont commencé à déployer des lecteurs de plaques d'immatriculation, la raie, l'IMSI-Catcher, la vidéosurveillance et diverses autres technologies pour suivre leurs mouvements, puis à créer des conditions sur le terrain pour les arrêter, les harceler et les intimider. Nous avons construit beaucoup de pouvoir à la base et, en avril 2019, l'opération Laser a été officiellement démantelée. Il a été interrompu.

Et en ce moment, nous poursuivons PredPol et exigeons que PredPol soit également démantelé. [LAPD a annoncé la fin de PredPol le 21 avril 2020.] Notre objectif d'abolition et de démantèlement de ce programme n'est pas seulement enraciné dans l'entrée des ordures, la sortie des ordures ; données racistes entrantes et données racistes sortantes. Notre travail est vraiment enraciné dans le sens où il sert en fin de compte tout le cadre idéologique du patriarcat et du capitalisme, de la suprématie blanche et du colonialisme des colons.

Nous avons publié un rapport, Avant que la balle ne touche le corps, en mai 2018 sur la police prédictive à Los Angeles, ce qui a conduit la ville de Los Angeles à tenir des audiences publiques sur la police basée sur les données, qui étaient les premières du genre dans le pays. Nous avons exigé un audit médico-légal de PredPol par l'inspecteur général. En mars 2019, l'inspecteur général a publié l'audit et il a déclaré que nous ne pouvons même pas auditer PredPol parce que ce n'est tout simplement pas possible. C'est tellement, tellement compliqué.

Les algorithmes n'ont pas leur place dans le maintien de l'ordre. Je pense qu'il est crucial que nous comprenions qu'il y a des vies en jeu. Ce langage de la police basée sur la localisation est en soi un indicateur du racisme. Ils ne sont pas là pour surveiller les nids-de-poule et les arbres. Ils sont là pour surveiller les gens sur place. Ainsi, l'emplacement est criminalisé, les gens sont criminalisés, et ce n'est que quelques secondes avant que l'arme ne sorte et que quelqu'un soit abattu et tué.

Les chefs d'équipe de la coalition Stop LAPD Spying Hamid Khan (à droite), Jamie Garcia (au centre) et Gen Dogon (à gauche) dans le quartier de Skid Row à Los Angeles, où la coalition a son siège.

DAMON CASAREZ

Comment vous assurez-vous que le public comprend ce genre de tactiques policières?

Les archives publiques sont un très bon outil pour obtenir des informations. Quelle est l'origine de ce programme ? Nous voulons savoir : quelle était la vision ? Comment s'articulait-il ? Quel est le but du financement ? Quel est le vocabulaire qu'ils utilisent ? Quels sont les résultats qu'ils présentent au bailleur de fonds ?

Je suis un humain, et je ne suis pas ici pour que vous me déballiez et que vous commenciez à expérimenter sur moi, puis que vous m'emballiez.

Ils [le LAPD] considéreraient une zone, un immeuble d'appartements, comme des points chauds et des zones. Et les gens étaient arrêtés à un rythme beaucoup plus rapide [là]. Chaque fois que vous arrêtez quelqu'un, cette information entre dans une base de données. C'est devenu un important programme de collecte de données.

Nous avons exigé qu'ils publient la liste secrète qu'ils avaient de ces individus. LAPD a riposté, et nous avons gagné ce procès pour dossiers publics. Nous avons donc maintenant une liste secrète de 679 personnes, que nous cherchons maintenant à contacter. Et ce sont tous de jeunes individus, majoritairement à 90% à 95% noirs et bruns.

Redliner la zone crée les conditions sur le terrain pour plus de développement, plus de gentrification, plus d'expulsions, plus de déplacements de personnes. Ainsi, la police est devenue protectrice de la propriété privée et protectrice des privilèges.

Que dites-vous aux personnes qui croient que la technologie peut aider à atténuer certains de ces problèmes dans le maintien de l'ordre, comme les préjugés, parce que la technologie peut être objective ?

Tout d'abord, la technologie ne fonctionne pas par elle-même. De la conception à la production, du déploiement au résultat, il y a constamment des préjugés intégrés. Ce ne sont pas seulement les préjugés des gens eux-mêmes ; son le biais inhérent au sein du système .

Il y a tellement de points d'influence que, très franchement, notre combat n'est pas pour nettoyer les données. Notre combat n'est pas pour un algorithme impartial, car nous ne croyons pas que même mathématiquement, il pourrait y avoir un algorithme impartial pour le maintien de l'ordre.

Quelles sont les considérations relatives aux droits de l'homme lorsqu'il s'agit de technologie et de surveillance policières ?

Le premier droit de l'homme serait de cesser d'être expérimenté. Je suis un humain, et je ne suis pas ici pour que vous me déballiez et que vous commenciez à expérimenter sur moi, puis que vous m'emballiez. Il y a tellement de datafication de nos vies qui se sont produites. Du capitalisme de plantation au capitalisme racialisé en passant par le capitalisme de surveillance, nous sommes sujets à être achetés et vendus. Nos esprits et nos pensées ont été marchandisés. Cela a également un effet abrutissant sur notre créativité en tant qu'êtres humains, en tant que partie d'un univers naturel. Le consentement est fabriqué à partir de nous.

Avec quelque chose comme le coronavirus, nous constatons certainement que certaines personnes sont prêtes à renoncer à certaines de leurs données et à une partie de leur vie privée. Que pensez-vous du choix ou du compromis entre l'utilité et la vie privée ?

Nous devons vraiment l'examiner dans une optique beaucoup plus large. Revenons à l'une de nos valeurs directrices : non pas un moment dans le temps mais une continuation de l'histoire. Nous devons donc examiner les crises du passé, à la fois réelles et inventées.

Regardons les Jeux olympiques de 1984 à Los Angeles. Cela a conduit à l'expansion la plus massive des pouvoirs de la police et à la militarisation du département de police de Los Angeles et du département du shérif sous couvert de sécurité publique. La chose était bien, nous voulons garder tout en sécurité. Mais non seulement [est-ce devenu] une caractéristique permanente et la nouvelle normalité, mais des tactiques ont également été développées. Parce que les rues devaient être nettoyées, des corps suspects, des gens sans logement, ont été enlevés de force. Les balayages de gangs auraient commencé à se produire. Ainsi, les jeunes noirs et bruns étaient arrêtés en masse. C'est comme 1983, menant à 1984.

En 1986-1987 à Los Angeles, les injonctions de gangs sont devenues une caractéristique permanente. Il en est résulté des bases de données massives sur les gangs et des enfants aussi jeunes que neuf mois entrant dans ces bases de données sur les gangs. C'est devenu l'opération Hammer, où ils avaient obtenu des chars et des véhicules blindés, utilisés par le SWAT, pour commettre des délits de drogue de faible intensité, et pour détruire et démolir les maisons des gens.

Maintenant, nous sommes de nouveau à un moment. Ce n'est pas seulement l'expansion structurelle des pouvoirs de la police ; nous devons considérer que la police assume de plus en plus des rôles de travailleurs sociaux. Il s'est construit au cours des 10 dernières années. Il y a aussi beaucoup d'argent pour la santé et les services sociaux. Par exemple, à Los Angeles, le contrôleur municipal est sorti avec un audit il y a environ cinq ans, et ils ont envisagé 100 millions de dollars pour les services aux sans-abri fournis par la ville. Bien devinez quoi? Sur ce montant, 87 millions de dollars allaient au LAPD.

Pouvez-vous donner un exemple précis de l'impact de l'utilisation de la technologie par la police sur les membres de la communauté ?

La police dirigée par le renseignement est un concept qui vient d'Angleterre, de la gendarmerie du Kent, et a commencé il y a environ 30 ans aux États-Unis. Le thème central des services de police fondés sur le renseignement est la surveillance comportementale. Le comportement des gens doit être surveillé, puis traité, et cette information doit être partagée. Les gens doivent être retrouvés et suivis.

Il n'y a pas de racisme plus gentil et plus doux, et ces programmes doivent être démantelés.

Un programme appelé Suspicious Activity Reporting est né du 11 septembre, dans lequel plusieurs activités entièrement protégées par la Constitution sont répertoriées comme potentiellement suspectes. Par exemple, prendre des photos en public, utiliser des caméras vidéo en public, entrer dans l'infrastructure et poser des questions sur les heures d'ouverture. Il s'agit d'un comportement observé raisonnablement révélateur d'une planification pré-opérationnelle d'activités criminelles et/ou terroristes. Donc, vous observez le comportement de quelqu'un, ce qui indique raisonnablement qu'il n'y a pas de cause probable. Cela ne crée pas un fait, mais une préoccupation. Ce maintien de l'ordre spéculatif et basé sur l'intuition est réel.

Nous avons pu obtenir des chiffres du programme See Something, Say Something du LAPD. Et ce que nous avons découvert, c'est qu'il y avait un impact disparate de 3:1 sur la communauté noire. Environ 70% de ces rapports See Something, Say Something provenaient de communautés à prédominance blanche de Los Angeles. Alors maintenant, un programme est transformé en arme et devient une licence pour le profilage racial.

L'objectif est toujours de renforcer le pouvoir en faveur de l'abolition de ces programmes, car vous ne pouvez pas les réformer. Il n'y a pas de racisme plus gentil et plus doux, et ces programmes doivent être démantelés.

Donc, vous pensez vraiment que la réforme ne permettra pas l'utilisation de ces technologies dans le maintien de l'ordre ?

Je ne peux parler que de ma propre histoire de 35 ans d'organisation à Los Angeles. Il ne s'agit pas de s'améliorer, il s'agit de s'aggraver. Et je pense que la technologie favorise cela. Quand vous regardez l'histoire de la réforme, nous continuons à nous cogner la tête contre le mur, et cela revient toujours à la même vieille chose. Nous ne pouvons pas vraiment partir du principe que les cœurs et les esprits peuvent changer, en particulier lorsque quelqu'un a un permis de tuer.

Je ne suis pas technologue. Notre prudence s'adresse aux technologues : vous savez, restez dans votre voie. Suivez la communauté et suivez leurs conseils.

cacher