Les citoyens tournent la reconnaissance faciale vers des policiers non identifiés

La nouvelle série de notre podcast sur l'IA, In Machines We Trust, est entièrement consacrée à la reconnaissance faciale. Dans la première partie de la série, Jennifer Strong et l'équipe du MIT Technology Review explorent les façons inattendues dont la technologie est utilisée, y compris la façon dont elle est tournée contre la police.

Nous rencontrons:

• Christopher Howell, data scientist et manifestant.

Crédits:

Cet épisode a été rapporté et produit par Jennifer Strong, Tate Ryan-Mosley et Emma Cillekens, et Karen Hao. Nous sommes édités par Michael Reilly et Gideon Lichfield.

Transcription:

[Publicité]

[ID TR]

Fort: Quelques choses se sont produites depuis la dernière fois que nous avons parlé de la reconnaissance faciale. Nous avons vu de plus en plus d'endroits se déplacer pour restreindre son utilisation, tandis que dans le même temps, des écoles et d'autres bâtiments publics ont commencé à utiliser l'identification faciale dans le cadre de leurs plans de prévention des covid. Nous l'utilisons même sur des animaux et pas seulement sur des visages présentant des similitudes avec les nôtres, comme les chimpanzés et les gorilles, les entreprises technologiques chinoises l'utilisent sur les porcs et les scientifiques canadiens travaillent à identifier les baleines, même les grizzlis.

En d'autres termes, le nombre de façons dont nous pourrions utiliser cette technologie explose, tout comme les inquiétudes quant à savoir si c'est faisable, sans parler d'une bonne idée. Et donc, les interdictions sur la façon dont l'identification faciale peut être utilisée s'étendent, de Portland, Maine à Portland, Oregon, où les restrictions les plus strictes sur la reconnaissance faciale dans le pays devraient entrer en vigueur l'année prochaine interdisant non seulement son utilisation par la police, mais commercial les candidatures également.

Rouleur : Chers collègues, nous sommes ici cet après-midi pour examiner deux ordonnances qui visent à interdire l'utilisation des technologies de reconnaissance faciale par notre propre gouvernement municipal de Portland et par des entités privées dans les espaces publics.

Fort: C'est le maire de Portland, Ted Wheeler, qui ouvre la réunion du conseil municipal qui a adopté ces projets de loi en septembre. Comme pour la plupart des choses ces jours-ci, les commentaires publics et le vote ont eu lieu sur Zoom.

Rouleur : Portland est loin d'être une ville anti-technologie, et je tiens à le dire très clairement. Nous ne sommes pas anti-technologie avec un large éventail d'entreprises technologiques locales et nationales. Nous sommes l'un des centres technologiques à la croissance la plus rapide de la côte ouest.

Fort: Au cours des heures qui ont suivi, des avocats, des ingénieurs en logiciel, des citoyens concernés et des chefs d'entreprise ont tous eu leur mot à dire. Puis, juste avant le vote. Une dernière personne, un data scientist local, a levé sa main virtuelle pour poser une question.

Rouleur : Christopher Howell... enfin et surtout, bienvenue.

Howell : Je voudrais exprimer un soutien conditionnel à cette ordonnance, mais j'ai des inquiétudes.

Fort: C'est parce qu'il construit quelque chose qui utilise la reconnaissance faciale d'une manière moins que conventionnelle.

Howell : Je suis impliqué dans le développement de la reconnaissance faciale à utiliser en fait sur les policiers de Portland puisqu'ils ne s'identifient pas au public et qu'ils commettent des crimes. Cela deviendrait-il illégal si vous adoptez cette ordonnance ?

[Musique]

Fort: Je suis Jennifer Strong et au cours des prochaines semaines, nous allons faire une autre plongée en profondeur sur la montée en puissance de la reconnaissance faciale. Dans cette dernière mini-série, nous explorerons comment il est utilisé dans le sport à la fois par les athlètes et les fans, son utilisation dans les magasins de détail et même comment il est utilisé pour servir les sans-abri. Mais d'abord, nous commençons par un aperçu de la façon dont cela est retourné à la police.

[MONTRER ID]

Fort: L'anonymat de la police et d'autres figures d'autorité est imprégné d'une histoire vraiment compliquée. Il existe un équilibre délicat entre confidentialité et responsabilité sur les deux côtés pour les manifestants et pour la police.

[Bruit des émeutes de Chicago.]

Fort: Les émeutes de Chicago de 1968 ont interrompu les télévisions des Américains dans tout le pays alors qu'ils regardaient la Convention nationale démocrate, qui s'est tenue à Chicago cette année-là.

[Bruit des émeutes de Chicago.]

Fort: Les manifestants manifestaient contre la guerre du Vietnam et contre le Parti démocrate. Après avoir affronté la police à Grant Park, les manifestants ont descendu Michigan Avenue jusqu'à l'hôtel où séjournaient de nombreux délégués à la convention. Pendant 17 minutes, l'Amérique a regardé en direct la Garde nationale de l'Illinois tirer des gaz lacrymogènes... alors que la police frappait les manifestants.

[Bruit des émeutes de Chicago. 'Le monde entier regarde']

Fort: La police ne portait pas de porte-nom et c'est en fait assez courant lorsque la police traite avec des manifestants. Parfois c'est légal, parfois c'est illégal, et parfois c'est même obligatoire dans l'intérêt de la sécurité comme cet été à Buffalo, New York.

Journaliste: Le commissaire de la police de Buffalo a déclaré que c'était sa décision de faire porter aux agents leurs numéros de badge et non leurs noms sur leurs uniformes.

Le commissaire: Il y avait une préoccupation croissante de harcèlement avec les agents et leur famille. Afin de permettre aux agents de faire leur travail sans crainte, j'ai pris la décision à ce moment-là.

Fort: Mais quand cela arrive, les citoyens et les militants repoussent. Beaucoup soutiennent que cela donne à la police encore plus de pouvoir qu'elle n'en a déjà... car il devient presque impossible de les tenir responsables.

Interviewé: Nous avons besoin que notre conseil se lève et parle au nom des 255 000 personnes que vous représentez et encouragez et exigez que cette force de police change la politique au lieu de penser uniquement à la douzaine d'agents qui ont été harcelés, qui pourraient être protégés en vertu de la loi existante actuelle .

Fort: Mais, bien avant les événements de cet été, des personnes ont tenté d'identifier des policiers non identifiés. Ils ont utilisé des photos de manifestations, des recherches sur les réseaux sociaux, du crowdsourcing sur Internet et même eu recours au vol d'informations personnelles. Comme dans le cas d'un collectif de hackers - appelé Anonymous. Il est connu pour s'être aligné sur les manifestations d'Occupy Wall Street et avoir brièvement supprimé le site Web de la Bourse de New York. Ce même groupe a ensuite divulgué des informations privées qu'il avait volées sur les sites Web de la police et du gouvernement, y compris les adresses personnelles des policiers.

Farce: Vous avez atteint le bureau du shérif du comté de Baldwin… [sonnerie]

Fort: Dans cette farce, ils revendiquent le mérite du piratage.

[Extraits du canular téléphonique]

Fort: Démasquer ceux qui exercent la force sur les autres n'est pas unique aux États-Unis. En 2014, lors de l'annexion de la Crimée par la Russie, vous vous souviendrez peut-être que des soldats sans badges sur leurs uniformes verts ont pris le contrôle. À l'époque, de hauts responsables, dont le président Vladimir Poutine, ont nié à plusieurs reprises que ces troupes étaient russes.

Un petit peu : Il n'y a aucune troupe. Pas de troupes russes au moins.

Fort: C'est l'ambassadeur de Russie auprès de l'UE qui s'adresse aux journalistes.

Ambassadeur: Les États-Unis étant dans la tradition d'intervenir dans d'autres pays et d'envoyer des troupes à l'étranger, ils agissent peut-être selon leur propre mentalité… Je dirais. Mais ce n'est pas un cas d'ingérence russe.

Fort: Mais c'était. En faisant correspondre les photos, potentiellement à l'aide de la reconnaissance faciale, le gouvernement ukrainien a déterminé que les troupes étaient en fait liées à l'armée russe. Et ils ont publié des photos comme preuve. Plus tard, Poutine a également admis que les troupes étaient bien russes.

Traduction de Poutine : Bien sûr, les militaires russes ont soutenu les forces d'autodéfense de Crimée. Ils ont agi de manière civile, comme je l'ai déjà dit, mais de manière décisive et professionnelle.

[Musique]

Fort: Maintenant, les manifestants essaient de plus en plus de retourner Face I-D à la police - pour identifier les agents qui utilisent une force excessive. Y compris à Hong Kong, où l'année dernière des images dramatiques d'affrontements entre manifestants et policiers ont dominé les flux d'actualités montrant des policiers tirant à balles réelles et des manifestants attaquant des officiers. Voici le journaliste du New York Times, Paul Mozur, s'exprimant à la télévision publique.

Mozour : Alors que les manifestations se poursuivent et que la police et les Hongkongais continuent de s'affronter semaine après semaine, le visage est devenu une arme et l'identité elle-même est en quelque sorte armée. Vous savez, les manifestants sortiront et la police essaiera de capturer leurs images sur vidéo, puis de revenir en arrière et de les identifier via tous les médias sociaux et les documents en ligne disponibles, puis vice versa. Nous avons vu la police retirer ses badges et maintenant les manifestants font de même avec la police où ils essaient de revenir en arrière et d'utiliser les médias sociaux et de déterminer quel policier fait quoi. Un manifestant en particulier ce type Colin Cheung que nous avons trouvé a créé un outil de reconnaissance faciale pour essayer d'identifier la police… et il n'a pas réellement libéré le produit mais il dit que c'est à cause de cela que la police l'a ciblé.

Fort: Et Cheung a été arrêté peu de temps après avoir publié des informations sur l'outil sur Facebook... mais des efforts similaires sont en cours dans d'autres endroits, notamment à Portland, dans l'Oregon.

Howell : Je prends exactement la même technologie qu'ils utilisent sur nous. Et ce n'est pas comme si j'essayais de doxer les gens. Je veux dire, c'est pour les officiers qui enfreignent essentiellement la loi en termes de recours à la force.

Fort: Christopher Howell est un scientifique des données et un manifestant.

Howell : Et je voulais juste être enregistré. Hey, il y a une autre façon de l'utiliser. // Et vraiment, il s'agit plus, vous savez, de maintenir la pression sur eux pour qu'ils s'identifient plutôt que nous devions le faire.

Fort: Son témoignage devant le conseil municipal de Portland à propos de cet outil sur lequel il travaille a conduit son projet à être couvert par le New York Times. Depuis lors, il a reçu pas mal d'attention, tout comme la réaction du maire de Portland, qui a qualifié le projet d'effrayant.

Howell : C'est effrayant de les laisser sortir et de lancer des gaz lacrymogènes nuit après nuit // et moi, c'était vraiment, pour moi, c'était juste un moment époustouflant, c'est effrayant que ces gars n'aient pas leurs noms. Tu sais, que quelqu'un peut juste s'habiller comme un policier tu sais [rires]

Fort: Il dit qu'il a commencé le projet en partie juste pour voir comment cela fonctionnerait.

Howell : Je veux dire, il y a une certaine curiosité technologique là-bas... et ce genre de chose que je peux faire quand il est tard dans la nuit et c'est frustrant de voir ce genre de choses, les nouvelles ou vous allez sur Twitter et voyez les vidéos des manifestations des gens, de tout le monde et d'accord, eh bien, qu'est-ce que je peux faire? …et finalement j'aimerais que ce ne soit pas nécessaire. Je pense qu'ils devraient porter leurs noms en grandes lettres afin que nous ne puissions pas avoir à utiliser la reconnaissance faciale sur les flics pour essayer de comprendre qui ils sont.

Fort: Être capable d'identifier un agent ne consiste pas seulement à savoir si quelqu'un en est réellement un… Il est extrêmement difficile de porter plainte contre quelqu'un sans savoir qui est cette personne.

Howell : L'une des raisons pour lesquelles j'ai commencé c'est parce que dans les procès, on ne peut pas nommer comme le flic qui m'a bousculé. Vous devez savoir qui c'est. Ils diront juste, eh bien, nous ne savons pas qui c'était. Donc, vous n'avez personne à poursuivre et en essayant d'obtenir des dossiers sur ce que des agents particuliers ont fait, ils ne vous laisseront pas aller à la pêche. // Vous devez savoir donc, si vous me donnez une photo de, vous savez, voici ce flic frappant quelqu'un avec une matraque que je veux, et nous allons comprendre, vous pouvez voir son visage. Alors on va découvrir qui c'est, comment on fait ça ? Et au départ je pensais plutôt à une recherche d'image inversée sur une base de données. Par exemple, je vais simplement rassembler toutes les images que je peux, et nous pourrons les relier entre elles afin que nous puissions dire que ce sont toutes la même personne. Et puis j'ai en quelque sorte réalisé que je pouvais faire mieux que ça.

Fort: Il s'est rendu compte qu'il pouvait créer un outil d'identification faciale, en utilisant des images des officiers trouvées sur Internet.

Howell : Alors j'ai commencé à regarder leurs photos où ils sont identifiés ou des nouvelles, vous savez, en remontant plus loin et en obtenant comme des articles de presse.

Fort: Le projet est techniquement plus facile que de construire un système destiné à identifier n'importe qui.

Howell : Nous savons que qui sont les policiers, vous savez, il n'y a pas, il ne devrait pas y avoir de gens en tenue anti-émeute qui ne sont pas des policiers. Donc, si vous pouvez obtenir toutes leurs photos et que c'est le vrai défi, mais alors vous pourriez avoir un problème mathématique moins difficile à identifier, d'accord, nous savons que cette personne est hors de cet ensemble. Découvrons lequel d'entre eux ils sont...

Fort: Il dit qu'il a collecté des milliers de photos jusqu'à présent … principalement manuellement sur Twitter et des articles de presse en moyenne 15 à 20 environ pour chaque officier qu'il a identifié.

Howell : Une grande partie des images initiales provenaient de Twitter. C'était en grande partie moi qui écrivais des articles de presse. // Je veux dire, l'accident de la circulation, l'un est, vous savez, le reportage est un si bon exemple. Parce que j'en ai trouvé un tas. Ou comme un barbecue communautaire et il y a des agents en uniforme là-bas et il les nomme.

Fort: Ce n'est pas exactement la même échelle que les systèmes d'identification faciale utilisés par la police...

Howell : Je fais tout cela en ce moment sur un script Python - vous savez, tout est local sur mon ordinateur portable.

Fort: ...ceux-ci sont généralement entraînés sur des ensembles de photos de millions ou de milliards.

Howell : Parce que je pense que la précision est importante et, euh, et le nombre d'images est suffisamment petit pour que si j'essayais de mettre mon visage là-dedans, je ne veux pas avoir un autre Chris Howell.

Fort: Mais c'est juste assez d'images pour qu'il semble faire l'affaire. Il dit que son outil a déjà été utilisé pour aider à confirmer l'identité d'un officier dans une affaire qui se dirige vers le tribunal.

Howell : Quelqu'un m'a apporté une photo que je n'avais pas trouvée et m'a dit, aidez-moi, vous savez, vous utilisez votre système et dites-moi ce qu'il dit. Et elle savait déjà qui elle pensait que c'était, mais elle ne me l'a pas dit. Et puis le meilleur résultat était celui qui était attendu.

Fort: Quant à savoir où cela va ensuite, tout le monde le devine, bien qu'il puisse imaginer un jour où il pourrait être utilisé en partenariat avec la ville.

Howell : Je pourrais voir un avenir, peut-être dans des années, quand les choses seront un peu différentes où la ville rendra quelque chose comme ça disponible et l'hébergera elle-même et leur fera prendre un tas de photos pour que nous puissions avoir une chose bien formée. Donc, comme une chose de rétroaction citoyenne. Et, et il ne devrait pas nécessairement s'agir de choses négatives, mais d'une manière qui pourrait également être utilisée pour des plaintes. Je veux dire, une partie de moi pense qu'il serait utile qu'ils s'associent aux agences gouvernementales elles-mêmes pour dire, Hé, nous voulons être responsables. Je ne pense pas que ce soit très réaliste en 2020, mais je le pense, ça pourrait ne pas être loin ! [rire]

Fort: Ce qu'il ne veut pas, c'est le rendre open source.

Howell : Je ne pense pas que ce soit une bonne idée pour qui que ce soit de l'avoir juste comme un site Web accessible au public. Pensez que c'est demander que les choses tournent mal au-delà des choses vraiment évidentes que vous pourriez avoir, les gens, vous savez, truquer des choses ou mettre intentionnellement des images trompeuses…

[Musique]

Fort: Les interdictions de Portland sur le visage I-D entreront en vigueur en janvier, mais le projet de Howell ? Il ne sera pas impacté. Les écoles publiques, les institutions religieuses, même la façon dont la reconnaissance faciale est utilisée à l'aéroport, comme la façon dont les compagnies aériennes comme Delta embarquent leurs passagers. Rien de tout cela ne sera impacté non plus. Les agences gouvernementales locales ne pourront pas l'utiliser. Et cela ne sera pas autorisé dans la plupart des espaces publics ou des espaces privés ouverts au public, comme un centre commercial. La police locale ne sera pas non plus autorisée à utiliser la technologie, même si les personnes dans leurs maisons privées, comme Christopher Howell, le seront. Les interdictions ne s'appliquent pas non plus aux forces de l'ordre au niveau de l'État ou au niveau fédéral.

D'une certaine manière, l'utilisation de cette technologie de surveillance devient une sorte de course mondiale aux armements entre le public et les autorités, qui espèrent tous deux lever le couvert de l'anonymat pour encourager les bons comportements. Il est difficile de voir qui pourrait être le gagnant, mais le perdant est certainement la vie privée.

Au prochain épisode…

Extrait : Ce n'est pas traumatisant d'avoir quelqu'un qui entre dans un établissement et dit, oui, vous pouvez absolument entrer, mais laissez-moi juste prendre vos empreintes digitales.

Fort: Nous examinons la décision d'utiliser la reconnaissance faciale dans les logements sociaux et les refuges pour sans-abri.

Extrait : La reconnaissance faciale est émotionnellement plus douce dans la mesure où elle est passive, elle, ne les touche pas et vous pouvez la capturer plus rapidement et il n'y a aucun risque de transmission.

Fort: Cet épisode a été rapporté et produit par moi, Tate Ryan-Mosley, Karen Hao et Emma Cillekens. Nous sommes édités par Michael Reilly et Gideon Lichfield.

Merci de m'avoir écouté, je suis Jennifer Strong.

[ID TR]

cacher