Podcast : Attention, acheteurs, vous êtes suivi

Dans certains magasins, des systèmes sophistiqués suivent les clients de presque toutes les manières imaginables, de la reconnaissance de leur visage à l'évaluation de leur âge, de leur humeur et de leur maquillage virtuel. Les systèmes demandent rarement la permission des gens, et pour la plupart, ils n'ont pas à le faire. Dans notre finale de la saison 1, nous examinons l'explosion des technologies d'intelligence artificielle et de reconnaissance faciale dans les espaces de vente au détail, et ce que cela signifie pour l'avenir du shopping.

Nous rencontrons:

• Arun Nair, directeur technique de RetailNext
• Guive Balooch, vice-président mondial de l'incubateur technologique de L'Oréal
• Parham Arabi, PDG de Modiface
• Pionnier de la biométrie et président d'ID4Africa Joseph Atick

Crédits

Cet épisode a été rapporté et produit par Jennifer Strong, Anthony Green, Tate Ryan-Mosley, Emma Cillekens et Karen Hao. Nous sommes édités par Michael Reilly et Gideon Lichfield.

Transcription

[ID TR]

Fort: Les détaillants utilisent les technologies de reconnaissance faciale et de suivi de l'IA depuis des années.

[ Audio de Face First : Et si vous pouviez arrêter la criminalité dans le commerce de détail avant qu'elle ne se produise en sachant à quel moment un voleur à l'étalage entre dans votre magasin ? Et si vous pouviez connaître la présence de criminels violents avant qu'ils n'agissent ? Avec Face First, vous pouvez arrêter le crime avant qu'il ne commence.]

Fort: C'est l'un des plus grands fournisseurs de cette technologie aux magasins de détail. Il détecte les visages, les voix, les objets et prétend pouvoir analyser le comportement. Mais les systèmes de reconnaissance faciale ont une histoire bien documentée d'identification erronée des femmes et des personnes de couleur.

[ Son de l'audience du Congrès de 2019 sur la reconnaissance faciale (Ocasio-Cortez) : Nous avons une technologie qui a été créée et conçue par un groupe démographique qui n'est principalement efficace que sur ce groupe démographique. Et ils essaient de le vendre et de l'imposer à tout le pays ?]

Fort: Voici la représentante Alexandria Ocasio-Cortez lors d'une audience du Congrès de 2019 sur la reconnaissance faciale. Les technologies photo fonctionnent mieux sur une peau plus claire. Et les ensembles de données utilisés par les entreprises pour former des systèmes d'analyse faciale sont largement basés sur des visages collectés sur Internet où le contenu a tendance à biaiser les blancs, les hommes et les occidentaux.

[ Son de l'audience du Congrès de 2019 sur la reconnaissance faciale (Ocasio-Cortez) : Et pensez-vous que cela pourrait exacerber les inégalités déjà flagrantes, euh, dans notre, dans notre système de justice pénale]

[ Son de l'audience du Congrès de 2019 sur la reconnaissance faciale (Buolamwini): Et c'est déjà le cas.]

Fort: Joy Buolamwini est militante et informaticienne.

[ Son de l'audience du Congrès de 2019 sur la reconnaissance faciale (Buolamwini): Donc, il y a un cas avec M. Bah, un homme afro-américain de 18 ans qui a été identifié à tort dans les magasins Apple comme un voleur. Et en fait, il a été faussement arrêté plusieurs fois à cause de ce genre d'erreur d'identification.

Fort: Au fur et à mesure que la prise de conscience de ces problèmes augmente, de plus en plus d'endroits cherchent à imposer des restrictions à son utilisation, comme à Portland, dans l'Oregon, qui a récemment adopté l'interdiction la plus radicale de l'identification faciale aux États-Unis.

[ Son du magasin à Portland, Oregon : veuillez regarder dans l'appareil photo pour entrer]

Fort: L'interdiction entre en vigueur en janvier et lorsqu'elle le fera, cette voix et cette caméra s'éloigneront d'endroits comme ce magasin d'alimentation où la technologie ouvre la porte aux acheteurs de fin de soirée. Mais l'utilisation ailleurs va bien au-delà de la lutte contre le crime (et commence à jouer d'autres rôles dans le commerce de détail), comme la mémorisation de vos commandes passées et des détails de paiement.

Meunier: Ces technologies basées sur le visage, euh l'intelligence artificielle, la vision artificielle nous permettent de voir notre client dans le monde hors ligne comme Amazon voit son client dans le monde en ligne. Cela nous permet de créer des expériences sur mesure pour le client et nous permet également de cibler directement ce client de nouvelles façons lorsqu'il revient au restaurant.

Fort: C'est le président du groupe Cali, John Miller, son restaurant de restauration rapide Caliburger teste des technologies qu'il commercialise ensuite à l'ensemble de l'industrie. D'autres détaillants utilisent la reconnaissance faciale pour savoir quand des acheteurs VIP ou des célébrités sont dans leurs magasins, un peu comme cette scène du film Minority Report où, alors que Tom Cruise se promène dans un centre commercial, ses yeux sont scannés et les publicités s'adressent à son personnage par son nom.

[ Son de Minority Report où des voix s'adressent à John Anderson en personne]

Fort: Les mesures du visage qui alimentent ces applications peuvent également être utilisées pour bien d'autres choses en plus d'identifier quelqu'un. Par exemple, certains centres commerciaux l'utilisent pour fixer les loyers de leurs magasins en comptant le nombre de personnes qui passent et en utilisant les données faciales pour évaluer le sexe, l'âge et d'autres données démographiques. Parfois, des caméras de reconnaissance faciale sont même cachées à l'intérieur des répertoires des centres commerciaux. Et à l'intérieur des magasins, les détaillants l'utilisent pour mieux comprendre ce qui intéresse les acheteurs. Il est également intégré dans les applications d'achat et les miroirs de magasin qui permettent aux gens d'essayer virtuellement n'importe quoi, des lunettes au maquillage.

Je suis Jennifer Strong et cet épisode, nous terminons notre première saison (et notre dernière mini-série sur la reconnaissance faciale) en examinant comment elle est utilisée pour regarder, comprendre et influencer vos habitudes d'achat.

[MONTRER ID]

Fort: Je suis donc devant ce qui était autrefois le plus grand magasin du monde. C'est Macy's sur la 34e rue à Manhattan. Le bâtiment occupe tout un pâté de maisons et, à certains égards, il est en quelque sorte le centre de gravité de la saison des achats des fêtes ici, entre autres, l'inspiration pour l'un des films de Noël les plus célèbres de New York, Miracle sur la 34e rue.

Mais l'entreprise peut également avoir des antécédents d'utilisation de la reconnaissance faciale et une action en justice a été intentée à ce sujet dans l'Illinois, qui a une loi sur la confidentialité biométrique exigeant que les entreprises obtiennent l'autorisation avant de l'utiliser sur les clients. Cette poursuite allègue que Macy's est un client de ClearviewAI. Nous avons eu le fondateur de cette émission Hoan Ton-That et son produit fonctionne en faisant correspondre des images, dans ce cas des acheteurs ou des voleurs à l'étalage, avec une base de données de peut-être des milliards de photos prises sur les réseaux sociaux publiées par des personnes qui n'ont pas changé leur paramètres pour rendre les photos privées uniquement à leurs amis.

Maintenant, les membres du conseil de New York viennent d'adopter une mesure biométrique ici qui, si elle est signée par le maire, obligera les détaillants ici à dire également aux acheteurs que la reconnaissance faciale est utilisée et peut-être ce qui se passe avec ces données. Mais vous savez qu'il est trop tôt pour dire à quoi cela pourrait ressembler. Je veux dire, est-ce que marcher dans une grande foule d'acheteurs devant une plaque murale indiquant que la reconnaissance faciale est présente, est-ce que cela équivaut à être informé, et encore moins à donner son consentement ? Mais je vais aller à l'intérieur avec mon producteur, Anthony Green, et voir si nous pouvons trouver des applications totalement différentes de la cartographie faciale à vous montrer.

Plusieurs de ces comptoirs de beauté ont des iPads qui se doublent de miroirs avec réalité augmentée. Nous en avons essayé trois, mais un seul a demandé le consentement pour analyser nos visages. Deux des systèmes nous ont très bien vus à travers nos masques. L'autre ne reconnaissait pas du tout nos visages.

Je me suis approché d'un miroir et il dit que mon éclairage est correct. Rapprochez-vous jusqu'à ce que votre visage remplisse un cercle. Apparemment, j'ai des cernes, une texture inégale. irritation et rougeur et contour des yeux. Au moins sommes-nous du côté le moins? Je ne sais pas. Ouah. Salut Anthony, tu devrais voir ça. Je n'étais pas sûr qu'il faisait quoi que ce soit et maintenant regarde dans le miroir.

Vert: Wow.

Fort: À droite?

Vert: Wow.

Fort: Je n'ai pas vraiment de mots pour décrire cela, mais c'est tellement drôle de me voir maquillée.

Vert: Juste un peu comme glamour.

Fort: Ouais. Je suis super glamour. Et littéralement, tout ce que je faisais était de regarder dans ce miroir, puis j'ai regardé vers le bas sur un iPad et Holy, wow.

Vert: Cela fonctionne avec votre masque.

Fort: C'est avec mon masque. Et si je baisse mon masque, je suis maquillée partout.

Vert: Oh oui.

Fort: Comme brillant et tout. Oh, regarde-toi.

Vert: Wow.

Fort: OK, alors Anthony a juste fait un pas vers moi et maintenant il a rattrapé les neuf. D'accord. Ces expériences font partie des nombreuses façons dont la cartographie du visage peut être appliquée.

Mais parce qu'ils sont si controversés, la plupart des marques ne veulent tout simplement pas en parler. Et surtout, ils n'ont pas à le faire. Aucune exigence nationale n'oblige les entreprises à divulguer la manière dont elles collectent ou utilisent nos données biométriques, même si nous pouvons imaginer un avenir pas si lointain où ces données deviendront plus importantes que n'importe quel document dont nous disposons. Ces données personnelles sont susceptibles de remplacer toutes celles prouvant qui nous sommes et ce que nous possédons.

La plupart de ce que nous savons sur l'utilisation de la reconnaissance faciale par les détaillants a commencé en 2013 lorsqu'il est devenu public que la société d'identité NEC avait environ une douzaine de marques et d'hôtels comme clients et qu'ils utilisaient sa technologie de lecture faciale pour identifier les célébrités et autres VIP comme ils franchi leurs portes.

L'année suivante, Facebook a annoncé qu'il appliquait pour la première fois des réseaux de neurones à l'identification faciale, ce qui le rendait nettement meilleur. Et les détaillants, y compris Walmart, ont commencé à le tester comme un moyen d'identifier les personnes prises en flagrant délit de vol à l'étalage.

En 2016, les entreprises de restauration rapide expérimentaient d'autres cas d'utilisation. Un partenariat, entre KFC et le géant chinois de la technologie Baidu, a recommandé des éléments de menu aux clients en fonction de leur âge et de leur humeur, tels que déterminés par la numérisation du visage. De nos jours, il est également possible de payer avec votre visage, même si jusqu'à présent, ces applications n'ont pas vraiment fait leur chemin. Et donc, où que vous fassiez vos achats, il est raisonnable de supposer que vous pourriez rencontrer certains aspects de cette technologie et qu'elle pourrait être combinée avec un certain nombre d'autres trackers. Mais il est également vrai qu'une grande partie du suivi effectué dans les magasins de détail à l'aide de la vision par ordinateur n'implique aucune reconnaissance faciale.

Naïr : Si vous créez un site Web aujourd'hui, il existe de nombreux outils disponibles que vous pouvez utiliser pour vous fournir des données, telles que le nombre de personnes qui ont visité votre site Web, qui elles étaient, comment elles ont navigué sur votre site Web, etc. et pour les sites de commerce électronique, le une éventuelle activité d'achat également. Et vous pouvez utiliser toutes ces données pour comprendre le comportement des visiteurs et optimiser votre site. Nous faisons exactement la même chose, mais pour les espaces physiques. Je m'appelle Arun Nair. Je suis CTO et co-fondateur de RetailNext.

Fort: Leur logiciel de suivi est déployé dans les bureaux, les musées et même les pistes de bowling, mais leur marché principal est le commerce de détail. Des caméras au plafond équipées d'une vision par ordinateur suivent les clients tout au long de leur parcours dans le magasin. Il peut deviner des informations démographiques de base telles que le sexe, qui est un employé, en fonction de leur présence ou non derrière le registre, voire des interactions entre les employés et les clients.

Naïr : Nous avons même un algorithme de prédiction qui vous indiquera, sur la base d'informations historiques, quand votre magasin sera occupé plus tard dans la journée, plus tard dans la semaine. Et c'est extrêmement utile pour le personnel. Donc, assurez-vous que lorsque vous vous attendez à un pic, qu'il y a des gens là pour aider les acheteurs et qu'ils ne font pas la queue, etc., ainsi que vous n'êtes pas toujours doté de personnel lorsque personne n'a besoin d'être là.

Fort: Il dit que l'entreprise est capable de déterminer ce que vous regardez, mais qu'elle ne suit pas le regard, les expressions ou les visages. Et ils n'identifient personne individuellement.

Naïr : Nous ne savons pas qui ils sont en tant qu'individus, et nous essayons spécifiquement de ne pas le savoir également. Et dans de nombreux cas, une fois que nous obtenons ces informations, nous jetons la vidéo ou la floutons.

Fort: En ce qui concerne la confidentialité, il pense que les systèmes utilisant la reconnaissance faciale pour l'identité devraient être opt-in

Naïr : Le consentement n'est pas seulement comme, Oh, je mets mes données là-bas pour que vous puissiez faire ce que vous voulez. Je pense que le consentement concerne aussi vous savez, nous voulons que vous le fassiez afin que nous puissions le faire en retour pour vous. Es-tu d'accord avec ça?

Fort: Mais il admet que c'est plus facile à dire qu'à faire.

Naïr : Il n'est pas facile de se retirer de ces choses. Et même si vous vous désabonnez, le défi est que, disons, vous dites ça, hé, je veux me désabonner de mon visage. En tant qu'entreprise technologique, je dois encore stocker une version numérisée de votre visage pour m'assurer de ne plus vous suivre à l'avenir car la prochaine fois que je verrai votre visage, j'ai besoin de quelque chose à cartographier pour dire que, Oh, je devrait laisser tomber le visage de cette personne. Mais là encore, vous savez, d'une manière étrange, je stocke maintenant une version numérisée de votre visage, qui. Encore une fois, ce n'est pas vraiment votre visage, mais c'est une représentation de celui-ci.

Fort: Et ces défis ne disparaissent pas. La plupart des technologies de suivi ne sont pas réglementées et nous ne savons tout simplement pas à quelle fréquence des éléments tels que les données faciales sont capturés. Il est clair que le secteur de la vente au détail évolue vers un monde centré sur l'analyse en temps réel des expériences client.

Naïr : Je pense qu'ils vont voir de plus en plus cela aller de l'avant, où il y a moins d'achats dans ces endroits, mais c'est en quelque sorte la façon dont vous découvrez la marque. [00:12:15] Presque comme de la publicité, ainsi qu'une sorte de fidélisation à la marque.

Fort: Le suivi des clients et de leur interaction avec le magasin n'aide pas seulement les détaillants à savoir ce qui se vend, il leur donne également un aperçu de ce que les clients veulent.

Naïr : Vous présentez un nouveau produit. Et vous voulez vous assurer que les gens voient ce produit. Nos algorithmes vous diront si les gens entrent réellement dans une zone du magasin et interagissent avec un produit et effectuent un achat par la suite.

Balouch : Je pense que c'est une combinaison d'IA avec des objets physiques qui crée vraiment un moment excitant dans le temps. Vous savez, vous ne pourriez jamais vraiment essayer une tendance et ensuite la dispenser. Cela n'a jamais été possible. Mais maintenant, grâce à l'IA, nous sommes en mesure de parcourir les tendances très rapidement. Nous sommes en mesure d'organiser les tendances, nous sommes en mesure de donner aux gens ce qu'ils désirent. Je m'appelle Guive Balooch et je dirige l'incubateur technologique mondial de L'Oréal. Je suis dans l'entreprise depuis 15 ans et mon travail consiste à trouver l'intersection entre la beauté et la technologie.

Fort: L'Oréal est la plus grande entreprise de cosmétiques au monde avec Estee Lauder, Maybelline, Garnier et d'innombrables autres marques grand public sous son égide.

Balouch : Nous avons commencé il y a environ huit ans avec une application de réalité augmentée appelée génie du maquillage. C'était le premier essai virtuel au monde. Et depuis, nous avons lancé des projets autour de la beauté personnalisée comme la personnalisation des soins de la peau, la personnalisation du fond de teint. Nous avons lancé un capteur UV sur l'Apple Store qui est un accessoire portable qui n'a pas de batterie et peut mesurer votre exposition aux UV. Et maintenant, nous nous dirigeons de plus en plus vers la personnalisation de masse et trouvons des moyens de combiner des technologies comme la RA et l'IA pour créer de nouveaux objets physiques qui peuvent être magiques pour les consommateurs de produits de beauté et, espérons-le, ravir nos utilisateurs.

Fort: Et c'est plus difficile qu'il n'y paraît. Concevoir des expériences qui permettent aux clients d'essayer du maquillage en réalité augmentée présente d'énormes défis techniques pour la détection des visages.

Balouch : Vous devez détecter où se trouve l'œil et où se trouve le sourcil. Et il doit être à un niveau de précision tel que lorsque le produit est dessus, il ne semble pas qu'il ne soit pas exactement sur votre lèvre. Et c'est, c'est drôle parce que je viens d'un milieu universitaire avec un doctorat. Je n'avais donc pas réalisé à quel point cette partie spécifique de cette technologie était compliquée. J'ai pensé, Oh, ça va. Nous allons juste récupérer le logiciel. Ça sera facile. Nous allons simplement le faire fonctionner. Mais il s'avère que non, c'est vraiment compliqué car les lèvres des gens peuvent varier en forme, la couleur entre votre carnation et votre lèvre peut aussi être très différente. Et donc vous devez avoir un algorithme qui peut le détecter et s'assurer qu'il fonctionne sur les personnes de peau très claire à très foncée.

Fort: Et il dit que l'un des impacts les plus importants de l'IA sur le marché de la beauté pourrait être une plus grande inclusion, ce avec quoi l'industrie a longtemps lutté.

Balouch : Je suis sous cette conviction, vous savez, que l'inclusivité est l'avenir de la beauté et l'inclusivité signifie que chaque être humain a le droit d'avoir un produit qui est ce dont il a besoin pour lui-même et de montrer au monde comment il veut être mis en valeur. Et je pense que ce n'est que grâce à des choses comme l'IA et la technologie que nous pourrons atteindre ce niveau de relation personnelle avec les désirs des gens pour leurs habitudes de beauté.

Fort: Ces habitudes sont façonnées autour de notre peau. Et le teint de la peau a toujours été l'un des défis techniques et culturels les plus difficiles.

Balouch : Nous avons lancé ce projet qui s'appelle ce blender de fondation. Et quand j'ai commencé ce projet, je pensais que ça allait être très simple parce que quand je suis allé chez Home Depot euh je ne suis pas vraiment un bricoleur, mais je suis allé avec mon, mon père beaucoup chez Home Depot et il achetait Peinture. Il assortirait la peinture et ils feraient juste la peinture juste là. Et j'ai dit, d'accord, c'est aussi simple que ça ? Donc, quand nous avons commencé le projet, nous avons réalisé, d'accord, vous savez, vous prenez juste un teint de peau d'un morceau de, vous savez, un papier et vous pouvez simplement faire correspondre le fond de teint. Et j'ai réalisé plus tard que notre peau n'est pas comme un mur, c'est un tissu biologique qui change selon le type de teint que vous avez.

Fort: Bref, l'algorithme n'a pas fonctionné.

Balouch : Et donc nous avons dû nous arrêter et passer encore six mois pour l'améliorer. Nous avons d'abord fait cela avec un petit appareil qui mesure votre teint, en utilisant un objet physique, parce que votre teint est difficile à mesurer si vous ne touchez pas réellement la peau car la lumière peut changer la couleur de votre peau. Et donc selon que vous soyez à l'extérieur ou à l'intérieur, vous pourriez avoir une grande différence dans la mesure. Mais plus maintenant. Grâce à l'IA, je pense que de plus en plus avec l'IA, nous allons pouvoir obtenir des mesures précises. Nous devons les tester et nous assurer qu'ils fonctionnent aussi bien que des objets. Mais une fois que nous arrivons à un point, quand nous pensons que nous nous en rapprochons, alors vous pouvez résoudre de très, très gros défis. Et en fond de teint, 50% des femmes ne trouvent pas la bonne teinte de fond de teint. Et il n'y a aucun moyen que le nombre de produits sur l'étagère ne résolve jamais cela parce que vous aurez toujours plus de tons de peau dans le monde que de produits que vous pouvez mettre sur l'étagère.

Fort: Et l'avenir pourrait ouvrir une toute nouvelle classe d'outils de beauté personnalisés.

Balouch : Nous pouvons fabriquer des objets qui ne sont, vous savez, pas énormes – portables – et qui peuvent faire des choses incroyables. Comme dans le futur, vous pourriez imaginer que vous pouvez distribuer automatiquement du fard à paupières sur votre paupière simplement en détectant le visage et en pouvant avoir un objet qui pourrait le distribuer.

Fort: Pour construire cet avenir, L'Oréal a acquis une société appelée Modiface qui fabrique des outils de réalité augmentée pour plus de 70 des plus grandes marques de beauté au monde.

Arabe: Une grande étape franchie il y a quelques années a été de passer des photos à la simulation vidéo en direct. Prouesse vraiment difficile technologiquement, mais vraiment impactante sur l'expérience consommateur. Au lieu d'avoir à prendre une photo et à la télécharger, ils pouvaient voir une vidéo en direct.

Fort: Parham Aarabi est le fondateur et PDG de Modiface.

Arabe: La prochaine grande étape que je vois et qui me passionne vraiment est une combinaison de la compréhension du visage par l'IA et de notre simulation. Donc, non seulement vous dire, d'accord, alors vous choisissez un rouge à lèvres et voici à quoi il ressemble, mais en disant, parce que vous avez choisi ce rouge à lèvres et parce que vous savez, vous avez les yeux bleus, nous pensons que cette ombre à paupières pourrait correspondre le meilleur.

Fort: Son expérience est dans le suivi du visage et des lèvres.

Arabe: Et donc nous avions créé cet exemple de démo où vous pouviez suivre les lèvres de quelqu'un et échanger les lèvres avec une célébrité, par exemple. Mon co-fondateur a eu l'idée qu'avant de faire cela, nous devrions en fait appliquer quelques changements sur la, sur la peau. Et c'est donc vraiment la combinaison de ces deux idées qui est devenue le fondement de Modiface.

Fort: L'industrie de la beauté prospère grâce à l'expérience d'achat en personne. Et même si les ventes du commerce électronique sont depuis longtemps à la hausse, ce secteur a été beaucoup plus lent que les autres. Pour le contexte, le meilleur vendeur de commerce électronique en beauté de 2018 était le shampooing. Mais la pandémie accélère les choses. Les ventes en ligne du géant de la beauté Sephora ont bondi de 30% aux États-Unis cette année. Et il s'est également associé à Modiface pour développer une application qui agit comme une boutique virtuelle, avec des tutoriels sur les produits et un comptoir de beauté en réalité augmentée.

Arabe: Vous voyez un bouton d'essai, vous appuyez dessus et une fenêtre s'ouvre. Vous voyez votre propre vidéo dans cette fenêtre, mais avec différents produits virtuels affichés.

Fort: Et renforcer la confiance des consommateurs dans ces produits simulés signifie créer une expérience aussi fluide que de se regarder dans un miroir.

Arabe: Si quelqu'un essaie réellement un rouge à lèvres et une couleur de cheveux, puis se filme au lieu d'utiliser notre technologie et d'avoir ensuite une simulation virtuelle de ces produits, les deux devraient être indiscernables. Le décalage, dans la simulation appliquée par rapport au moment où vous regardez votre visage et que vous voyez des mouvements, ne doit pas être apparent pour l'utilisateur. Ce sont donc d'énormes défis. L'un est de réalisme. Vous ne voulez pas que l'eye-liner scintille sur les yeux de quelqu'un et la seconde est de le faire si vite que sur un site Web en vidéo en direct, vous ne remarquez aucun décalage. Ce sont donc des défis majeurs, majeurs.

Fort: Et ce n'est pas que des cosmétiques. Les éléments de détection de visage sont de plus en plus utilisés en médecine pour diagnostiquer une maladie. Et il croit qu'à l'avenir, leurs produits détecteront toutes sortes de troubles cutanés.

Arabe: Nous avons donc poussé sur cette évaluation de la peau, euh, direction en regardant l'image de quelqu'un. Et sur cette base, sachant quels produits de soins de la peau sont les meilleurs pour eux, et plus nous faisons cela et mieux nous formons nos systèmes d'IA, nous constatons qu'ils augmentent dans le niveau de précision correspondant à celui des dermatologues . Et je pense que si vous suivez cette ligne, cette IA, qui ne peut en fait pas remplacer les dermatologues, mais les a vraiment aidés en tant qu'outil objectif qui peut regarder le visage de quelqu'un et faire des recommandations.

Fort: On a l'impression qu'il y a plus de prise de conscience de la reconnaissance faciale de ses risques, de ses immaturités et de ses préjugés, mais aussi de sa présence accrue dans nos vies et de son potentiel brut. Pour moi, il semble que nous venons de gratter la surface - dans cette course numérique désordonnée vers quelque chose de différent et de grand. Et cela m'a amené à me demander ce que l'un de ses inventeurs pourrait penser de tout cela ?

Atick : J'ai commencé à travailler sur le cerveau humain environ un an après avoir obtenu mon diplôme et j'ai fait avec mes collaborateurs des percées fondamentales, qui ont conduit à la création d'un domaine appelé l'industrie biométrique et à la première reconnaissance faciale commercialement viable. C'est pourquoi les gens me considèrent comme un père fondateur de la reconnaissance faciale et de l'industrie biométrique.

Fort: C'est le Dr Joseph Atick. Il a développé l'un des premiers algorithmes de reconnaissance faciale en 1994.

Atick : L'algorithme permettant à un cerveau humain de reconnaître des visages familiers est devenu clair pendant que nous faisions des recherches mathématiques à l'Institut d'études avancées de Princeton.

Fort: Mais la technologie nécessaire pour capturer ces visages n'était pas encore dans les poches de tout le monde.

Atick : À l'époque, les ordinateurs n'avaient pas de caméras. Les téléphones équipés de caméras n'existaient pas. Nous avons dû construire les yeux pour le cerveau. Nous avions un cerveau, nous pensions savoir comment le cerveau analyserait les signaux, mais nous n'avions pas les yeux qui transmettraient l'information et le signal visuel au cerveau.

Fort: Les webcams sont apparues dans les années 90 et les ordinateurs dotés de capacités vidéo sont arrivés sur le marché quelques années plus tard.

Atick : Et ce fut une période passionnante parce que tout d'un coup le cerveau que nous avions construit avait enfin la paire d'yeux qui serait nécessaire pour, pour voir.

Fort: C'était la percée dont lui et son équipe avaient besoin pour donner vie à leur concept. Alors ils ont commencé à coder.

Atick : c'était une longue période de mois de programmation et d'échec et de programmation et d'échec

Fort: Mais éventuellement…

Atick : Et une nuit, tôt le matin, en fait, on venait de finaliser, euh, une version de l'algorithme. Nous avons soumis le code source pour compilation afin d'obtenir un code d'exécution. Et nous sommes sortis, je suis sorti pour aller aux toilettes. Et puis quand je suis revenu dans la pièce, il a repéré mon visage, l'a extrait de l'arrière-plan et il a prononcé je vois Joseph. Et c'était le moment où les cheveux sur le dos - j'ai eu l'impression que quelque chose s'était passé. Nous étions un témoin. Et j'ai commencé, euh, à appeler les autres personnes qui étaient encore dans le labo et chacun d'eux, ils rentraient dans la pièce. Et je dirais, ça dirait, je vois Norman. Je verrais Paul, je verrais Joseph. Et nous courrions en quelque sorte à tour de rôle dans la pièce juste pour voir combien il pouvait en repérer dans la pièce.

Fort: Ils avaient construit quelque chose qui n'avait jamais été construit auparavant. Des mois de maths et de codage et de longues nuits semblaient porter leurs fruits. Mais en quelques années, cette excitation s'est transformée en inquiétude.

Atick : Ma, ma préoccupation concernant la technologie que j'ai aidé à créer et à inventer a commencé très rapidement après que je l'ai inventée. J'ai vu un avenir où notre vie privée serait menacée si nous ne mettions pas en place des mesures de protection pour empêcher l'abus de cette puissante technologie.

Fort: Et il voulait faire quelque chose à ce sujet.

Atick : Donc, en 1998, j'ai fait pression sur l'industrie et j'ai dit qu'il fallait mettre en place des principes d'utilisation responsable. Et c'est là qu'une organisation appelée IBIA est née en 1998 en tant qu'association industrielle pour promouvoir une utilisation responsable. Euh, et donc j'ai été le fondateur de cette organisation. Et je me suis senti bien pendant un moment parce que je sentais que nous avions bien fait les choses. Je sentais que nous avions inventé la technologie, mais ensuite nous avons mis en place un code d'utilisation responsable à suivre quelle que soit la mise en œuvre. Cependant, ce code n'a pas résisté à l'épreuve du temps. Et la raison derrière cela est que nous n'avions pas anticipé l'émergence des médias sociaux.

Fort: La reconnaissance faciale repose sur une base de données d'images. La taille, la qualité et les conditions de confidentialité de cette base de données déterminent en grande partie le degré de sécurité ou d'intrusion de la technologie. En 1998, Atick a construit ses bases de données en scannant manuellement des milliers d'images et en les étiquetant avec des noms. C'était fastidieux et limité en taille.

Atick : Nous avons permis à la bête de sortir du sac en lui donnant des milliards de visages et en l'aidant en nous identifiant. Nous sommes maintenant dans un monde où l'apprentissage automatique permet désormais l'émergence de plus de 400 algorithmes différents de reconnaissance faciale dans le monde. Par conséquent, tout espoir de contrôler et d'exiger que tout le monde soit responsable dans son utilisation de la reconnaissance faciale est difficile.

Fort: Et cela est aggravé par le scraping, où une base de données est créée en scannant tout Internet à la recherche de photos publiques.

Atick : Et donc j'ai commencé à paniquer en 2011, et j'ai écrit un article d'opinion disant qu'il était temps d'appuyer sur le bouton de panique parce que le monde se dirige dans une direction où la reconnaissance faciale va être omniprésente et les visages vont être partout disponibles dans, dans, dans les bases de données. La puissance de calcul devient très, très massive au point que nous pourrions potentiellement reconnaître des milliards de personnes. Et à l'époque, les gens disaient que j'étais alarmiste, mais ils se rendent compte que c'est exactement ce qui se passe aujourd'hui.

Fort: Donc, d'une certaine manière, il fait du lobbying contre sa propre invention, même s'il utilise toujours la biométrie pour aider à construire des choses qui, selon lui, pourraient bénéficier au plus grand bien, comme l'identification numérique pour les habitants des pays en développement.

Atick : L'effet paralysant est quelque chose d'impardonnable. Si je ne peux pas sortir dans la rue, parce que je pense que quelqu'un utilise un iPhone, je pourrais prendre une photo de moi et me connecter à mon profil en ligne et, cette connexion en ligne et hors ligne est, est une chose dangereuse. Et ça se passe en ce moment.

Fort: Et il pense que nous avons un besoin urgent de règles de base juridiques.

Atick : Et donc ce n'est plus un problème technologique. Nous ne pouvons pas contenir cette puissante technologie par la technologie. Il doit y avoir une sorte de cadre juridique.

Fort: De son point de vue, l'avancée technologique continuera d'avancer, avec l'IA au premier plan. Mais les gens qui le construisent et l'utilisent ? Ils sont au centre.

Atick : Je crois qu'il doit y avoir une certaine harmonie entre ce que la technologie peut faire pour nous et nous aide à vivre dans la dignité et à avoir une vie plus facile et à nous connecter avec les gens que nous aimons, mais en même temps, cela doit être dans le cadre de notre moralité et de nos attentes. comme les êtres humains le permettent.

Fort: En d'autres termes, encore une fois… cela dépend de nous. Cet épisode a été rapporté et produit par moi, Anthony Green, Emma Cillekens, Tate Ryan-Mosley et Karen Hao. Nous sommes édités par Michael Reilly et Gideon Lichfield. Merci aussi à Kate Kaye avec le podcast Banned in PDX. Voilà pour la première saison. Merci beaucoup d'avoir choisi de passer votre temps avec nous. Nous vous retrouverons ici dans la nouvelle année jusque-là, joyeuses fêtes et… Merci pour votre écoute, je suis Jennifer Strong.

[ID TR]

cacher