Pays au milliard de visages

Clearview AI a construit l'une des bases de données de visages les plus complètes au monde. Votre photo s'y trouve probablement (c'était celle de notre hôte Jennifer Strong). Dans la deuxième partie de cette série en quatre parties sur la reconnaissance faciale, nous rencontrons le PDG de la société controversée qui nous dit que notre avenir est rempli de FaceID, qu'il soit réglementé ou non.

Nous rencontrons:

• Hoan Ton That, Clearview AI
• Alexa Daniels-Shpall, Forum de recherche des cadres de la police

Crédits:

Cet épisode a été rapporté et produit par Jennifer Strong, avec Tate Ryan-Mosley et Emma Cillekens, avec des remerciements particuliers à Karen Hao et Benji Rosen. Nous sommes édités par Michael Reilly et Gideon Lichfield. Notre directeur technique est Jacob Gorski.

Transcription complète de l'épisode :

Jennifer Strong : Il y a une bagarre devant les tribunaux entre le site de réseautage LinkedIn et une entreprise appelée hiQ Labs, une startup qui informe les entreprises lorsque leurs employés risquent d'être débauchés par d'autres entreprises…

Le problème est qu'il le fait en extrayant des données du site Web de LinkedIn.

Lecture du présentateur de nouvelles : avec plus de 500 millions d'utilisateurs dans le monde, LinkedIn est une mine d'informations personnelles. Mais que se passe-t-il si ces informations que vous ne voulez pas partager reviennent à votre patron ?

Jennifer Strong : Mais hiQ soutient que ce n'est pas grave, toutes ces données sont accessibles au public sans connexion. L'affaire pourrait être portée devant la Cour suprême cette année, même si jusqu'à présent, le système judiciaire est d'accord avec hiQ.

Connaissez-vous vos droits à la vie privée sur des sites Web comme LinkedIn ou YouTube ?

Serait-il surprenant que des photos - dont certaines que vous n'avez jamais vues mais qui se sont en quelque sorte retrouvées sur le Web - soient utilisées par des entreprises pour développer leurs activités, notamment pour créer des choses comme des systèmes d'IA qui identifient les suspects pour la police ?

Je m'appelle Jennifer Strong et dans la deuxième partie de notre série sur la reconnaissance faciale et le maintien de l'ordre, nous discutons avec le directeur général Hoan Ton-That, le fondateur de l'une des entreprises technologiques les plus controversées au monde, Clearview AI.

Jennifer Strong : En 2011, le PDG de Google à l'époque, Eric Schmidt, a donné une interview lors d'une conférence organisée par le Wall Street Journal.

Eric Schmidt : Je suis personnellement très préoccupé par l'union du suivi mobile et de la reconnaissance faciale.

Jennifer Strong : La combinaison de l'identification faciale avec les données de suivi des téléphones portables pourrait donner presque tous les détails sur comment et où nous passons notre temps.

Schmidt a déclaré qu'il croyait qu'il pouvait être utilisé pour le bien ou le mal, mais dans les démocraties, il pensait qu'il serait réglementé rapidement.

Il était sur scène avec les journalistes Walt Mossberg et Kara Swisher et ils l'ont pressé : de quelles capacités Google disposait-il et que pouvait-il arriver entre de mauvaises mains ?

Eric Schmidt : Pour, pour être clair, nous avons construit cette technologie… et nous l'avons retenue. Pour autant que je sache, c'est la seule technologie que Google a construite et après l'avoir examinée, nous avons décidé d'arrêter.

Jennifer Strong : Avance rapide de près d'une décennie. La reconnaissance faciale n'est toujours pas réglementée et les grandes technologies remettent en question ce qui devrait être construit et qui devrait l'avoir.

Le fait est que les géants de la technologie ne sont pas les plus grands acteurs de cet espace. Les entreprises qui le sont, notamment NEC, Cognitec et Clearview AI, continuent de vendre leurs systèmes.

Et parce que la reconnaissance faciale n'est pas réglementée, à moins qu'une entreprise ne décide de nous dire que ces outils existent ou qu'un journaliste découvre quelque chose, nous ne saurons pas nécessairement ce qui existe, et encore moins comment il est utilisé, même lorsqu'il est utilisé sur nous.

Clearview est parfois appelée l'application tueuse de Face ID. C'est aussi incroyablement controversé. Il a discrètement récupéré des milliards d'images sur Internet - sur Venmo, LinkedIn, Google, Facebook, Twitter, YouTube, etc. - et il a construit un système qui serait largement utilisé par les forces de l'ordre, y compris le FBI et l'ICE. en tant que police nationale et locale.

Il y a de nombreuses batailles juridiques en cours concernant cette pratique appelée Web scraping - non pas parce qu'il y a quelque chose de mauvais en soi, c'est juste un outil pour collecter des données sur Internet. C'est ainsi que les sites Web proposent des comparaisons de prix et des annonces immobilières. C'est aussi ainsi que se fait une grande partie de la recherche publique.

Donc, le vrai problème est qu'il n'y a pas vraiment de règles de base pour Quel peut être gratté. Et la loi fédérale la plus souvent utilisée pour régler ces cas ? Eh bien, ça date de 1986. Avant même que le Web n'existe.

Tout au long de cette série, nous allons entendre des gens qui créent des technologies, ainsi que ceux qui les combattent. Et je me suis assis avec le directeur général de Clearview pour parler de tout cela, de son point de vue.

Hoan Ton-Ça : Je m'appelle Hoan Ton-That et je suis le fondateur et PDG de Clearview AI.

Jennifer fort : Ok, comment décririez-vous votre entreprise, la technologie et ce qu'elle fait ?

Hoan Ton-Ça : Fondamentalement, c'est un moteur de recherche de visages. Donc, vous téléchargez une photo d'un visage et il trouve des liens accessibles au public qui sont en ligne. Et en ce moment, il est utilisé par les forces de l'ordre pour résoudre des crimes après coup. Donc, un agent, s'il est coincé sur une affaire et qu'il a quelque chose à partir d'une séquence vidéo, il peut le faire passer dans notre système, puis lancer une enquête.

Jennifer Strong : Il dit que cela a immédiatement fait appel aux forces de l'ordre, mais c'était après l'avoir fait visiter à quelques groupes différents.

Hoan Ton-Ça : Lorsque nous développions notre technologie de reconnaissance faciale, nous avons exploré de nombreuses idées différentes et de nombreux secteurs différents, de la sécurité privée à l'hôtellerie... lorsque nous l'avons donnée à certaines personnes des forces de l'ordre, la hausse a été énorme. Et ils nous ont rappelés le lendemain et nous ont dit qu'on résolvait des affaires. C'est fou. En une semaine, nous avions un livret très épais.

Jennifer fort : Alors, d'où vous est venue l'idée de créer Clearview. Quelles étaient vos motivations ?

Hoan Ton-Ça : J'ai toujours aimé apprendre la programmation informatique depuis que je suis enfant en regardant les conférences vidéo du MIT ou en faisant des projets open source et en téléchargeant des images pour former de meilleurs modèles pour la reconnaissance faciale. Et finalement, cela s'est transformé en un moteur de recherche faciale. Et c'était juste une surprise pour moi de voir combien de personnes n'ont pas vraiment abordé cette idée parce que c'est un problème tellement difficile parce qu'il faut être très, très précis mais nous nous y sommes tenus et ça a fini par très bien fonctionner.

Jennifer Strong : Il existe une liste croissante de raisons pour lesquelles les chercheurs pourraient choisir de ne pas travailler sur un moteur de recherche de visages. Un gros problème est la façon dont ce travail pourrait être appliqué.

Kade Crockford : Prenons le cas de Steve Talley, un analyste financier du Colorado.

Jennifer Strong : Kade Crockford est un défenseur de la vie privée. Ceci est tiré de son Ted Talk.

Kade Crockford : En 2015, Talley a été accusé de braquage de banque sur la base d'une erreur dans un système de reconnaissance faciale. Talley a combattu cette affaire et il a finalement été innocenté de ces accusations, mais il a perdu sa maison, son travail et ses enfants. Le cas de Steve Talley est un exemple de ce qui peut arriver lorsque la technologie tombe en panne. Mais la surveillance faciale est tout aussi dangereuse lorsqu'elle fonctionne comme annoncé.

Considérez à quel point il serait trivial pour une agence gouvernementale de placer une caméra de surveillance à l'extérieur d'un bâtiment où les gens se réunissent pour des réunions des Alcooliques Anonymes. Il serait tout aussi simple d'utiliser cette technologie pour identifier automatiquement chaque personne ayant assisté à la Marche des femmes ou à une manifestation Black Lives Matter.

Jennifer Strong : Bien que Ton-That pense que l'outil de Clearview est plus sûr que ce qu'elle décrit.

Hoan Ton-Ça : Un faux positif dans un environnement réel est plus problématique que dans un environnement après coup. Parce que si vous recevez une alerte et que vous courez pour trouver la personne, vous avez peut-être beaucoup moins de temps pour voir si c'est correct. Alors que si vous êtes derrière un bureau en train d'enquêter, vous avez tout le temps du monde pour vous assurer que vous faites ce qu'il faut.

Jennifer Strong : Mais il n'y a pas d'accord sur ce que signifie faire la bonne chose.

Dans le premier épisode, nous avons rencontré Robert Williams. Il a été arrêté à tort dans le cadre du type d'enquête dont parle Ton-That, après qu'un logiciel ait incorrectement associé la photo de son permis de conduire à des photos de quelqu'un qui volait des montres.

L'outil utilisé dans le cas de M. Williams n'a pas été construit par Clearview mais par une société appelée DataWorks, bien que ces deux systèmes reposent sur des réseaux de neurones.

Hoan Ton-Ça : Ainsi, un réseau de neurones est une nouvelle forme d'intelligence artificielle où, au lieu de coder en dur certains facteurs - par exemple, nous voulons faire de la reconnaissance faciale pour trouver des visages similaires de la même personne - au lieu de coder en dur des facteurs comme la distance entre vos yeux ou le distance entre les yeux et le nez, il apprend juste d'une tonne d'exemples différents. Et ce que nous faisons, c'est que nous recueillons comme un millier d'exemples de George Clooney ou un millier d'exemples de Brad Pitt et la machine au fil du temps, elle apprend la différence entre ces deux visages et ensuite elle peut l'appliquer à un visage qui n'a pas été vu auparavant .

Jennifer Strong : Tout le monde à qui nous avons parlé pour cette série était d'accord sur le fait que ces systèmes fonctionnent mieux lorsque l'éclairage est bon et que les caméras sont placées à hauteur de visage.

Mais avec les caméras de sécurité, c'est rare. Il y a aussi le défi de l'échelle.

Hoan Ton-Ça : Comment rechercher des milliards de visages ou de vecteurs en moins d'une seconde ? Recherche typique de bases de données par nom et e-mail. Ceci recherche par similarité. Et faire cela à grande échelle est difficile. Nous avons également dû obtenir notre propre centre de données pour cela. Généralement, si vous achetez un système de reconnaissance faciale, il y a un problème de démarrage à froid. Quelles photos y mettez-vous ? Ainsi, les services de police peuvent avoir leurs propres mugshots, mais ils n'ont pas de mugshots d'autres services de police. Donc ça limite vraiment son utilité. Et nous venons de réaliser qu'il y a des milliards et des milliards de pages Web sur Internet et sur les médias sociaux et vous savez, des sites d'actualités, des sites Web de photos.

Jennifer Strong : Nous ne sommes qu'à quelques kilomètres l'un de l'autre à New York, mais à cause de la pandémie, nous discutons sur Zoom.

Hoan Ton-Ça : Jennifer, j'avais déjà pris une capture d'écran d'une photo de toi. Ça vous dérange si je le télécharge ?

Jennifer fort : Non, c'est bon.

Jennifer Strong : Et il met une vieille photo de mon compte LinkedIn sur l'écran.

Hoan Ton-Ça : Alors, du côté gauche ? Vous voyez ce nouveau bouton de recherche où vous choisissez une photo ? C'est donc celui que je vais utiliser. Ne t'inquiète pas. Personne ne peut voir l'écran à part nous (rires).

Et donc ça a pris, vous savez, environ une seconde. Euh, et vous pouvez voir qu'il y a un lien sur lequel vous pouvez cliquer. Mais au fur et à mesure que nous progressons, c'est, euh, de Twitter. Vous souvenez-vous de cette photo ?

Jennifer fort : Ummm non je ne savais pas que ça avait été pris... j'ai l'air très...

Hoan Ton-Ça : Ouais. Vous faites. Tu as l'air très sérieux dans celui-là. Ouais.

Ici, vous donnez une conférence au Wall Street Journal, l'avenir de tout.

Jennifer fort : Ouais.

Hoan Ton-Ça : Vous interrogez quelqu'un ici à Duke Health. Donc, comme je l'ai dit, toutes ces choses sont accessibles au public. Donc, c'est essentiellement comme ça que ça marche.

Jennifer Strong : Il n'y a rien d'inhabituel ici. Juste des photos de moi au travail racontant des histoires et organisant des panels dans différentes villes – même si c'est un peu choquant de trouver des photos de moi que je n'ai jamais vues – et cela soulève encore une fois cette épineuse question du consentement.

Vous voyez, il est peu probable que je coche une case autorisant des entreprises comme Clearview à gratter mon image et à l'utiliser pour développer leurs activités.

Le truc, c'est qu'ils n'en ont pas besoin.

Nous reviendrons dans un instant juste après cela.

Hoan Ton-Ça : Ce qui est unique à propos de Clearview AI et qui le rend un peu plus difficile à comprendre pour les gens, c'est de ne rechercher que des informations accessibles au public.

Jennifer Strong : Et c'est là que Ton-That avance un argument que nous débattrons et plaiderons peut-être pendant de nombreuses années : que l'Internet ouvert tel que nous le connaissons, y compris des choses comme les recherches Google, n'existerait pas vraiment si nous avions mis des restrictions sur l'utilisation de données en ligne.

Hoan Ton-Ça : LinkedIn est une entreprise d'un milliard de dollars, ou une entreprise d'un billion de dollars Microsoft, ils n'ont pas le droit de bloquer l'accès d'autres personnes aux données publiques. C'est donc quelque chose qui est juste en quelque sorte dans un endroit intéressant parce qu'il ne recherche que des informations accessibles au public et des choses que les gens veulent garder privées. Nous savons que nous ne voulons pas les coller partout sur Internet. Je pense donc que nous avons un instinct de ce que nous voulons garder privé et de ce que nous voulons garder public et ce sera toujours le cas.

Jennifer Strong : Il est prudent de dire que tout le monde n'est pas d'accord avec lui.

Twitter fait partie d'une foule d'entreprises qui ont envoyé à Clearview une ordonnance de cesser et de s'abstenir, lui disant d'arrêter de gratter leurs images et de supprimer toutes leurs données. Twitter indique également que leurs politiques interdisent l'utilisation de leurs données pour la reconnaissance faciale. Étant donné qu'il a déjà récupéré des milliards d'images, vous seriez pardonné de vous demander combien d'informations il lui reste encore à capturer.

Mais ce n'est que la pointe de l'iceberg.

Hoan Ton-Ça : Nous ne sommes toujours même pas à 1% de ce qui existe quand vous analysez les chiffres, c'est un peu fou la quantité d'informations disponibles. Donc, en matière de confidentialité, nous devons en quelque sorte nous regarder et dire, eh bien, nous partageons volontairement beaucoup de ces informations. Et c'est peut-être vrai, mais comment, comment nous sentons-nous à ce sujet ? Nous n'avons aucune information privée comme Google ou Facebook. Google a votre position sur Android tout le temps. Facebook connaît toutes vos habitudes et ce que vous aimez et ce que vous n'aimez pas. L'onglet d'exploration d'Instagram est tout simplement phénoménal pour découvrir ce que vous aimez, c'est un peu effrayant, mais ils connaissent en quelque sorte beaucoup plus d'informations que ce que nous faisons. Et nous nous concentrons simplement sur l'application pour le plus grand bien, pensons-nous, pour rendre le monde beaucoup plus sûr.

Jennifer Strong : Et pour lui, cela signifie travailler avec la police.

Hoan Ton-Ça  : Donc, déjà dans de nombreux organismes d'application de la loi qui utilisent la reconnaissance faciale, ils ont une procédure disant que vous ne pouvez pas simplement arrêter quelqu'un sur la base d'une correspondance de reconnaissance faciale. Vous avez encore à faire des recherches de suivi. Il y a donc toujours un humain dans la boucle qui vérifie si cette personne est la bonne personne ? Portent-ils le bon nom ? Cette personne habite-t-elle dans la même région où le crime a été commis?

Jennifer Strong : Mais qu'en est-il des personnes faussement accusées ?

Ton-That dirait que c'est un échec humain. De la même manière, nous sommes toujours responsables de la façon dont nous conduisons lorsque nous utilisons le GPS - lorsque la navigation indique de tourner à droite et que ce n'est pas sûr de le faire - c'est à nous et à notre cerveau humain de l'ignorer.

Et il nous rappelle que les gens se trompent aussi.

Hoan Ton-Ça : Comme un exemple, les files d'attente humaines. Le projet Innocence indique que 70% des condamnations injustifiées sont dues à des témoignages oculaires. Donc, vous savez, si vous êtes un mauvais policier et que vous voulez piéger quelqu'un pour un crime qu'il n'a pas commis, vous pouvez en quelque sorte inciter les gens à choisir la personne que vous voulez dans une file d'attente et je pense que la technologie comme Clearview peut en fait aider à ajouter beaucoup de transparence et de responsabilité. Quelque chose que nous aimerions vraiment examiner de près, c'est comment cela peut réellement aider les gens à ne pas être mal identifiés.

Jennifer Strong : D'une certaine manière, cet argument qu'il avance contre Humain jugement? C'est le même qui est utilisé contre le transfert de ces décisions à l'IA : il y a des erreurs, des préjugés et du racisme. Mais là où Ton-That ne croit pas que nous pouvons changer les gens de manière fiable, il croit qu'il a supprimé ces choses de son système.

Hoan Ton-Ça : Et nous pensons donc avoir totalement résolu le problème de précision et le problème des préjugés raciaux qui ont en quelque sorte tourmenté d'autres sociétés de reconnaissance faciale. Et nous voulons que les autres sachent que nous pouvons vraiment prendre cette technologie et l'utiliser.

Jennifer Strong : Ce sont de très grosses réclamations qui peuvent même ne pas être possibles, et il n'y a actuellement aucun moyen de vérifier quoi que ce soit. Clearview n'a pas fourni le type d'accès public qui permettrait à son système d'être audité de la même manière qu'Amazon et d'autres l'ont fait.

Il dit que l'entreprise a fait son propre audit, en réunissant un comité d'examen indépendant qui a adopté une approche similaire à celle utilisée lorsque l'ACLU a testé le système de reconnaissance faciale d'Amazon en exécutant des photos du Congrès américain devant une base de données de photos, qui sont des photos de personnes qui ont été arrêtées. pour un crime.

Hoan Ton-Ça : Et donc ils ont mené cette étude indépendante. Mais au lieu de rechercher une galerie de 25 000 mugshots, il a recherché une galerie de 2,8 milliards de photos à l'époque. Et nous avons fait d'autres législatures d'État comme l'État de New York et le Texas. Et chacun des résultats qui sont apparus était la bonne personne et ils les ont examinés individuellement.

Jennifer Strong : Du point de vue de Clearview, cela signifie que la technologie pourrait en fait aider le système judiciaire à devenir plus équitable. Il dit qu'ils ont demandé à Jonathan Lippman, le juge en chef de la Cour d'appel de New York, de faire partie de ce comité d'examen.

Hoan Ton-Ça : Et il croit vraiment que si vous avez quelque chose de plus précis, c'est aussi mieux pour les accusés. Ils n'iront pas en prison pour un crime qu'ils n'ont pas commis.

Jennifer Strong : Si la Silicon Valley a une marque, c'est ce techno-optimisme sur la façon dont leurs créations vont changer le monde, mais sans le fardeau d'être responsable de tout changement indésirable qui pourrait l'accompagner.

Peut-être vraiment ne devrait pas être le travail des créateurs de technologie de s'inquiéter des types de transparence, de surveillance et de garde-corps nécessaires pour protéger le public.

Hoan Ton-Ça : Je pense qu'il est de la responsabilité du gouvernement et des décideurs politiques de proposer des réglementations et que les entreprises technologiques devraient avoir un siège à la table, et il est dans leur intérêt d'avoir un siège à la table. Parfois, de mauvaises politiques sont adoptées parce qu'ils ne savent pas comment fonctionne la technologie. Donc, je pense que davantage d'entreprises technologiques vont s'engager dans la politique.

Nous avons reçu beaucoup d'attention, mais nous savons que nous faisons ce qu'il faut. Et je pense qu'à long terme, tout type de nouvelle technologie est controversé de la presse à imprimer... et cela fait partie du processus. Le choix n'est pas entre pas de reconnaissance faciale et reconnaissance faciale. C'est entre la reconnaissance faciale responsable et une sorte de far west.

Jennifer Strong : Un groupe visant à aider à apprivoiser ce Far West est le Police Executive Research Forum. L'organisation à but non lucratif a passé les quatre dernières décennies à aider les chefs de police à résoudre les problèmes émergents.

Alexa Daniels-Shpall : L'utilisation de tasers. Ils utilisent des caméras portées sur le corps. Maintenant, nous examinons également le sujet de la reconnaissance faciale.

Jennifer Strong : Alexa Daniels-Shpall dirige cette recherche en partenariat avec le ministère américain de la Justice.

Alexa Daniels-Shpall : Nous avons fait beaucoup de recherches dans ce domaine dans le but d'élaborer des lignes directrices nationales. Ils l'utilisent de différentes manières et ils ont en quelque sorte tous développé leurs propres procédures, protocoles et politiques.

Jennifer Strong : Nous entrerons dans ce prochain épisode… Mais pour l'instant, l'important est que ses recherches suggèrent que l'adoption de Clearview par les services de police n'est peut-être pas aussi répandue qu'on le prétend. En janvier, il a déclaré au New York Times que plus de 600 organismes chargés de l'application de la loi avaient commencé à utiliser son produit au cours de l'année écoulée.

Alexa Daniels-Shpall : Nous n'en avons vu qu'une poignée qui ont suivi un contrat formel.

Jennifer Strong : Conclusion : les services de police utilisent Clearview. Mais il y a une grande différence entre essayer et acheter.

Alexa Daniels-Shpall : Je sais que certains l'ont essayé et ont ensuite décidé de ne pas l'utiliser. Et, au moins certains d'entre eux avec qui nous avons parlé ont dit que cela ne fonctionnait tout simplement pas si bien pour eux. Et je pense que cela dépend probablement, vous savez, de ce avec quoi vous le testez et, et de l'endroit où vous vous trouvez dans le pays. Parce que, vous savez, je ne sais pas si quelqu'un a une idée de l'endroit où, comme le nombre d'images qui apparaissent dans différentes zones.

Jennifer Strong : Et tous les services de police qui l'ont essayé ne l'ont pas fait sciemment… ou par les voies officielles.

Alexa Daniels-Shpall : Les dirigeants ont découvert que des détectives avaient été approchés par l'entreprise pour le tester. Et ils l'ont ensuite apporté à leurs patrons pour dire, Hé, nous devrions envisager d'aller de l'avant avec ça. Et les dirigeants ont en quelque sorte dit, nous allons fermer cela pour le moment et passer par nos processus normaux d'approvisionnement et d'évaluation avant d'aller de l'avant. // Ça a été une sorte d'accueil mitigé, je dirais, de la part de différentes agences. Et la question la plus importante serait de savoir combien de types de contrats permanents à long terme et combien d'agences ont fait l'approvisionnement formel pour établir une relation avec l'entreprise plutôt que seulement ces essais gratuits qui circulaient.

Jennifer Strong : La prochaine fois, nous rencontrerons des policiers aux États-Unis qui utilisent Face ID…

Dori Koren : C'est un peu hollywoodien mais on l'a fait exprès, c'est comme ça qu'on voulait que ça se sente. Alors, imaginez entrer dans une grande pièce et sur le mur avant, vous avez cet écran massif - toutes sortes de flux de caméras comme une salle de surveillance, mais un peu plus high-tech, un peu plus grand, un peu plus avancé.

Jennifer Strong : Et découvrez quel rôle l'acteur Woody Harrelson et d'autres célébrités jouent involontairement dans la désignation des suspects de la police...

Cet épisode a été rapporté et produit par moi, avec Tate Ryan-Mosely et Emma Cillekens, avec des remerciements particuliers à Karen Hao et Benji Rosen. Nous sommes édités par Michael Reilly et Gideon Litchfield. Notre directeur technique est Jacob Gorski.

Merci de m'avoir écouté, je suis Jennifer Strong.

cacher