C'est ainsi que nous avons perdu le contrôle de nos visages

Getty

En 1964, mathématicien et informaticien Woodrow Bledsoe a d'abord tenté de faire correspondre les visages des suspects aux clichés électroniques. Il a mesuré les distances entre les différents traits du visage sur des photographies imprimées et les a introduites dans un programme informatique. Ses succès rudimentaires déclencheront des décennies de recherche sur les machines enseignant à reconnaître les visages humains.

À présent une nouvelle étude montre à quel point cette entreprise a érodé notre vie privée. Il n'a pas seulement alimenté un outil de surveillance de plus en plus puissant. La dernière génération de reconnaissance faciale basée sur l'apprentissage en profondeur a complètement bouleversé nos normes de consentement.

Deborah Raji, membre de Mozilla à but non lucratif, et Genevieve Fried, qui conseille les membres du Congrès américain sur la responsabilité algorithmique, ont examiné plus de 130 ensembles de données de reconnaissance faciale compilés sur 43 ans. Ils ont constaté que les chercheurs, poussés par l'explosion des besoins en données de l'apprentissage en profondeur, ont progressivement abandonné la demande de consentement des gens. Cela a conduit de plus en plus de photos personnelles de personnes à être intégrées dans des systèmes de surveillance à leur insu.

Cela a également conduit à des ensembles de données beaucoup plus désordonnés : ils peuvent inclure involontairement des photos de mineurs, utiliser des étiquettes racistes et sexistes, ou avoir une qualité et un éclairage incohérents. Cette tendance pourrait aider à expliquer le nombre croissant de cas dans lesquels les systèmes de reconnaissance faciale ont échoué avec des conséquences troublantes, telles que le fausses arrestations de deux Noirs dans la région de Détroit l'année dernière.

Les gens étaient extrêmement prudents quant à la collecte, la documentation et la vérification des données faciales au début, explique Raji. Maintenant, nous ne nous en soucions plus. Tout cela a été abandonné, dit-elle. Vous ne pouvez tout simplement pas suivre un million de visages. Après un certain point, vous ne pouvez même plus prétendre que vous avez le contrôle.

Un historique des données de reconnaissance faciale

Les chercheurs ont identifié quatre grandes époques de la reconnaissance faciale, chacune motivée par un désir croissant d'améliorer la technologie. La première phase, qui s'est déroulée jusque dans les années 1990, était largement caractérisée par des méthodes manuelles intensives et lentes en termes de calcul.

Mais ensuite, stimulé par la réalisation que la reconnaissance faciale pouvait suivre et identifier les individus plus efficacement que les empreintes digitales, le département américain de la Défense a injecté 6,5 millions de dollars dans la création du premier ensemble de données faciales à grande échelle. Plus de 15 séances de photographie en trois ans, le projet a capturé 14 126 images de 1 199 individus. La base de données Face Recognition Technology (FERET) a été publiée en 1996.

La décennie suivante a vu une augmentation de la recherche universitaire et commerciale sur la reconnaissance faciale, et de nombreux autres ensembles de données ont été créés. La grande majorité provenait de séances photo comme celles de FERET et avait le plein consentement des participants. Beaucoup comprenaient également des métadonnées méticuleuses, dit Raji, telles que l'âge et l'origine ethnique des sujets, ou des informations sur l'éclairage. Mais ces premiers systèmes ont connu des difficultés dans des contextes réels, ce qui a poussé les chercheurs à rechercher des ensembles de données plus vastes et plus diversifiés.

En 2007, la publication de l'ensemble de données Labeled Faces in the Wild (LFW) a ouvert les vannes à la collecte de données via la recherche sur le Web. Les chercheurs ont commencé à télécharger des images directement depuis Google, Flickr et Yahoo sans se soucier du consentement. Un ensemble de données ultérieur compilé par d'autres chercheurs appelé LFW + a également assoupli les normes concernant l'inclusion des mineurs, en utilisant des photos trouvées avec des termes de recherche comme bébé, juvénile et adolescent pour augmenter la diversité. Ce processus a permis de créer des ensembles de données beaucoup plus volumineux en peu de temps, mais la reconnaissance faciale était toujours confrontée à bon nombre des mêmes défis qu'auparavant. Cela a poussé les chercheurs à rechercher encore plus de méthodes et de données pour surmonter les mauvaises performances de la technologie.

Puis, en 2014, Facebook a utilisé ses photos d'utilisateurs pour former un modèle d'apprentissage en profondeur appelé DeepFace. Bien que la société n'ait jamais publié l'ensemble de données, les performances surhumaines du système ont élevé l'apprentissage en profondeur à la méthode de facto d'analyse des visages. C'est à ce moment-là que la vérification et l'étiquetage manuels sont devenus presque impossibles alors que les ensembles de données atteignaient des dizaines de millions de photos, explique Raji. C'est aussi à ce moment que des phénomènes vraiment étranges commencent à apparaître, comme des étiquettes générées automatiquement qui incluent une terminologie offensante.

Histoire connexe

Une IA a vu une photo recadrée d'AOC. Il l'a complétée automatiquement en bikini. Les algorithmes de génération d'images régurgitent les mêmes idées sexistes et racistes qui existent sur Internet.

La façon dont les ensembles de données ont été utilisés a également commencé à changer à cette époque. Au lieu d'essayer de faire correspondre les individus, de nouveaux modèles ont commencé à se concentrer davantage sur la classification. Au lieu de dire : « Est-ce une photo de Karen ? Oui ou non », cela s'est transformé en « Prédisons la personnalité interne de Karen, ou son appartenance ethnique », et en boxant les gens dans ces catégories, dit Raji.

Amba Kak, directrice des politiques mondiales chez AI Now, qui n'a pas participé à la recherche, affirme que l'article offre une image saisissante de l'évolution de l'industrie de la biométrie. L'apprentissage en profondeur a peut-être sauvé la technologie de certaines de ses difficultés, mais cette avancée technologique a également eu un coût, dit-elle. Cela soulève toutes ces questions que nous connaissons maintenant bien : consentement, extraction, problèmes de propriété intellectuelle, confidentialité.

Le mal qui engendre le mal

Raji dit que son enquête sur les données l'a rendue gravement préoccupée par la reconnaissance faciale basée sur l'apprentissage en profondeur.

C'est tellement plus dangereux, dit-elle. L'exigence de données vous oblige à collecter des informations incroyablement sensibles sur, au minimum, des dizaines de milliers de personnes. Cela vous oblige à violer leur vie privée. Cela en soi est une base de préjudice. Et puis nous accumulons toutes ces informations que vous ne pouvez pas contrôler pour construire quelque chose qui fonctionnera probablement d'une manière que vous ne pouvez même pas prévoir. C'est vraiment la nature de l'endroit où nous en sommes.

Elle espère que l'article incitera les chercheurs à réfléchir au compromis entre les gains de performance dérivés de l'apprentissage en profondeur et la perte de consentement, la vérification méticuleuse des données et une documentation approfondie. Cela valait-il la peine d'abandonner toutes ces pratiques pour faire du deep learning ? elle dit.

Elle exhorte ceux qui veulent continuer à développer la reconnaissance faciale à envisager de développer différentes techniques : Pour nous, pour vraiment essayer d'utiliser cet outil sans blesser les gens, il faudra revoir tout ce que nous savons à son sujet.

Correction, 15 février 2021 : Une version précédente de l'article indiquait que l'ensemble de données Labeled Faces in the Wild (LFW) 'assouplissait les normes concernant l'inclusion des mineurs'. Il s'agissait en fait de l'ensemble de données LFW+, qui a ensuite été compilé par un autre groupe de chercheurs.

cacher