La reconnaissance faciale devient incroyablement puissante et de plus en plus controversée

Catégorie: Intelligence artificielle Posté 08 sept.

Une caméra braquée sur votre visage peut révéler énormément de choses sur vous. Nous avons beaucoup écrit récemment sur la façon dont les logiciels de reconnaissance faciale ont atteint un niveau incroyablement élevé au cours des deux dernières années. Si élevé, en fait, que la technologie est suffisamment robuste pour être utilisée dans toute la Chine pour autoriser les paiements et prendre des trains.

Mais certaines avancées technologiques impressionnantes récentes font plus de bruit. Plus tôt cette semaine, Michal Kosinski et Yilun Wang de l'Université de Stanford a publié un article sur les serveurs de prépublication PsyArxiv , qui sera bientôt publié par le Journal de la personnalité et de la psychologie sociale , qui montre que l'IA de reconnaissance faciale est plus précise que les humains pour détecter l'orientation sexuelle à partir d'images de personnes.

Formés sur 130 741 images tirées de sites de rencontres où les gens expliquent leur orientation sexuelle, les réseaux de neurones du couple peuvent distinguer les hommes gays et hétérosexuels dans 81% des cas à partir d'une seule photo. Cela se compare à une précision de 61% pour un humain. Compte tenu de cinq images, les chiffres de l'IA s'élèvent à 91%. (Les mêmes chiffres pour les femmes sont respectivement de 71, 54 et 83.)

L'approche rappelle les travaux décrits l'année dernière par des chercheurs de l'Université Jiao Tong de Shanghai en Chine, qui ont formé des réseaux de neurones à l'aide de photographies de criminels et de non-criminels connus. Ils ont ensuite pu identifier correctement les criminels à partir de nouvelles images avec une précision de 89,5 %.

le Économiste suggère que la même approche pourrait être utilisée pour essayer d'identifier d'autres qualités, telles que le QI ou l'orientation politique. Le phénomène est, clairement, troublant pour ceux qui tiennent à la vie privée, surtout si la technologie est utilisée par des régimes autoritaires où même une suggestion d'homosexualité ou d'intention criminelle peut être considérée durement.

Une conclusion naturelle : peut-être devrions-nous masquer nos visages lorsque nous sommes dans la rue ?

Malheureusement, une autre nouvelle étude peut rendre cette idée plutôt inutile. En fin de semaine dernière, Amarjot Singh de l'Université de Cambridge et ses collègues en Inde a publié une étude sur l'arXiv montrant que dans de nombreux cas, il est possible d'identifier une personne à l'aide de la reconnaissance faciale même lorsque son visage est masqué. Lorsque les gens portent un chapeau, une écharpe et des lunettes pour se couvrir le visage, leurs algorithmes ont pu identifier les personnes avec une précision d'environ 55 %. Le chiffre est passé à 69% lorsque seules les lunettes ont été retirées.

Zeynep Tufekci du Berkman Center for Internet and Society de l'Université de Harvard a commenté cette conclusion finale sur Twitter , a décrit la recherche comme faisant partie d'une nouvelle capacité sans cesse croissante qui servira bien les autoritaires. Elle a probablement raison.