211service.com
Le programme de reconnaissance faciale du FBI est tentaculaire et inexact
Souriez : vous êtes peut-être mal identifié.
L'année dernière, nous avons découvert l'ampleur remarquable de la technologie de reconnaissance faciale du FBI, avec son accès à près de 412 millions de photos, dont beaucoup proviennent de sources sans rapport avec la criminalité, telles que des documents d'identité. L'agence de renseignement a tenté de créer un système capable d'identifier avec précision les criminels dans, par exemple, des images de vidéosurveillance, bien qu'on ne sache pas à l'époque à quel point le logiciel du bureau fonctionnait, ni s'il améliorait réellement les enquêtes.
Maintenant, nous avons au moins un peu plus d'informations sur le programme. le Gardien rapports qu'une audience du comité de surveillance de la Chambre la semaine dernière a révélé de nouveaux détails intéressants sur la prolifération et les capacités des systèmes de reconnaissance faciale du FBI.
Premièrement, il y a de fortes chances que vous, en tant qu'Américain, apparaissez dans la base de données. Parmi ces millions de photos, il s'avère qu'il y a des portraits d'environ la moitié de la population adulte du pays. Cela est possible car les images provenant de sources non liées au crime représentent 80 % de la base de données. Ainsi, lorsque vous envoyez des formulaires et des photos pour un passeport, un permis de conduire ou toute autre pièce d'identité officielle, vous contribuez probablement à développer l'ensemble de données.
Peut-être plus inquiétant est la qualité de la reconnaissance du FBI. L'audience a révélé que son logiciel identifie actuellement les individus à tort près de 15 % du temps. En revanche, la technologie de reconnaissance faciale à la pointe du marché est désormais si précise qu'elle est utilisée pour autoriser les paiements en Chine, et Baidu prétend confirmer correctement l'identité de quelqu'un. 99,77 % du temps .
Pour la défense du FBI, il travaille probablement avec des images de qualité bien inférieure, à la fois dans sa base de données et dans les images sur lesquelles il essaie d'effectuer une reconnaissance, que celles disponibles pour Baidu. Mais les taux d'erreur de 15% sont encore élevés et pourraient conduire à de fausses pistes ou à des intrusions infondées dans la vie privée.
Getty
Le logiciel semble également identifier incorrectement les Noirs plus fréquemment que les Blancs. Malheureusement, cet effet est prévisible : nous avons expliqué dans le passé que les systèmes de reconnaissance faciale sont intrinsèquement biaisés parce qu'ils sont formés sur des ensembles de données qui sous-représentent certaines données démographiques.
Mais ce problème peut avoir des conséquences troublantes. Comme le Gardien notes, les noirs sont plus susceptibles d'avoir un logiciel de reconnaissance faciale utilisé pour les identifier , il semble donc étrange, voire injuste, d'utiliser des outils manifestement mal équipés pour discerner leur ressemblance.
Ces pépites s'ajoutent toutes aux problèmes de confidentialité qui ont déjà tourmenté l'initiative du FBI de construire un système capable d'identifier avec précision les criminels. Les problèmes, au moins, ont été révélés, il ne reste plus qu'à les résoudre.
(Lire la suite: Le gardien , Alors qu'il recherche des suspects, le FBI peut vous regarder , Payer avec votre visage , Les systèmes de reconnaissance faciale sont-ils précis ? Dépend de votre race. )