Podcast : L'histoire de l'IA, racontée par ceux qui l'ont inventée

Bienvenue à J'étais là quand , un nouveau projet d'histoire orale de la Dans les machines auxquelles nous faisons confiance Podcast. Il présente des histoires sur la façon dont les percées de l'intelligence artificielle et de l'informatique se sont produites, racontées par les personnes qui en ont été témoins. Dans ce premier épisode, nous rencontrons Joseph Atick, qui a aidé à créer le premier système de reconnaissance faciale commercialement viable.

Crédits:

Cet épisode a été produit par Jennifer Strong, Anthony Green et Emma Cillekens avec l'aide de Lindsay Muscato. Il est édité par Michael Reilly et Mat Honan. Il est mixé par Garret Lang, avec une conception sonore et une musique de Jacob Gorski.

Transcription complète :

[ID TR]

Jennifer : Je suis Jennifer Strong, animatrice de Dans les machines auxquelles nous faisons confiance .

Je veux vous parler de quelque chose sur lequel nous travaillons depuis un petit moment dans les coulisses ici.

C'est appelé J'étais là quand .

Il s'agit d'un projet d'histoire orale présentant les histoires de la façon dont les percées de l'intelligence artificielle et de l'informatique se sont produites… telles que racontées par les personnes qui en ont été témoins.

Joseph Atick : Et en entrant dans la pièce, il a repéré mon visage, l'a extrait du fond et il a prononcé : Je vois Joseph et c'était le moment où les cheveux dans le dos… J'ai eu l'impression qu'il s'était passé quelque chose. Nous étions un témoin.

Jennifer : Nous lançons les choses avec un homme qui a aidé à créer le premier système de reconnaissance faciale commercialement viable... dans les années 90...

[ID IMWT]

Je suis Joseph Atick. Aujourd'hui, je suis le président exécutif d'ID for Africa, une organisation humanitaire dont l'objectif est de donner aux Africains une identité numérique afin qu'ils puissent accéder aux services et exercer leurs droits. Mais je n'ai pas toujours été dans l'humanitaire. Après avoir obtenu mon doctorat en mathématiques, mes collaborateurs ont fait des percées fondamentales, qui ont conduit à la première reconnaissance faciale commercialement viable. C'est pourquoi les gens me considèrent comme un père fondateur de la reconnaissance faciale et de l'industrie biométrique. L'algorithme permettant à un cerveau humain de reconnaître des visages familiers est devenu clair pendant que nous faisions des recherches, des recherches mathématiques, pendant que j'étais à l'Institute for Advanced Study de Princeton. Mais c'était loin d'avoir une idée de la façon dont vous alliez mettre en place une telle chose.

Ce fut une longue période de mois de programmation et d'échec et de programmation et d'échec. Et une nuit, tôt le matin, en fait, nous venions de finaliser une version de l'algorithme. Nous avons soumis le code source pour compilation afin d'obtenir un code d'exécution. Et nous sommes sortis, je suis sorti pour aller aux toilettes. Et puis quand je suis revenu dans la pièce et que le code source avait été compilé par la machine et était revenu. Et généralement, après avoir compilé, il le lance automatiquement, et alors que j'entrais dans la pièce, il a repéré un humain se déplaçant dans la pièce et il a repéré mon visage, l'a extrait de l'arrière-plan et il a prononcé : Je vois Joseph. et c'était le moment où les cheveux sur le dos - j'avais l'impression que quelque chose s'était passé. Nous étions un témoin. Et j'ai commencé à appeler les autres personnes qui étaient encore dans le labo et chacun d'eux entrait dans la pièce.

Et il dirait, je vois Norman. Je verrais Paul, je verrais Joseph. Et nous courrions en quelque sorte à tour de rôle dans la pièce juste pour voir combien il pouvait en repérer dans la pièce. C'était, c'était un moment de vérité où je dirais que plusieurs années de travail ont finalement abouti à une percée, même si théoriquement, il n'y avait pas de percée supplémentaire nécessaire. Le simple fait que nous ayons compris comment l'implémenter et que nous ayons finalement vu cette capacité en action était très, très gratifiant et satisfaisant. Nous avions développé une équipe qui est plus une équipe de développement, pas une équipe de recherche, qui se concentrait sur l'intégration de toutes ces capacités dans une plate-forme PC. Et ce fut la naissance, vraiment la naissance de la reconnaissance faciale commerciale, je dirais, en 1994.

Mon souci est parti très vite. J'ai vu un avenir où il n'y avait pas de place pour se cacher avec la prolifération des caméras partout et la banalisation des ordinateurs et les capacités de traitement des ordinateurs devenant de mieux en mieux. Et donc en 1998, j'ai fait pression sur l'industrie et j'ai dit, nous devons mettre en place des principes d'utilisation responsable. Et je me suis senti bien pendant un moment, parce que je sentais que nous avions bien fait les choses. Je pense que nous avons mis en place un code d'utilisation responsable à suivre quelle que soit la mise en œuvre. Cependant, ce code n'a pas résisté à l'épreuve du temps. Et la raison derrière cela est que nous n'avions pas anticipé l'émergence des médias sociaux. Fondamentalement, au moment où nous avons établi le code en 1998, nous disions que l'élément le plus important dans un système de reconnaissance faciale était la base de données étiquetée des personnes connues. Nous avons dit, si je ne suis pas dans la base de données, le système sera aveugle.

Et il était difficile de construire la base de données. Tout au plus, nous pourrions construire mille 10 000, 15 000, 20 000 parce que chaque image devait être scannée et saisie à la main - le monde dans lequel nous vivons aujourd'hui, nous sommes maintenant dans un régime où nous avons laissé la bête sortir du sac en le nourrissant de milliards de visages et en l'aidant en nous identifiant. Euh, nous sommes maintenant dans un monde où tout espoir de contrôler et d'exiger que chacun soit responsable dans son utilisation de la reconnaissance faciale est difficile. Et en même temps, les visages connus ne manquent pas sur internet car il suffit de gratter, comme cela s'est produit récemment par certaines entreprises. Et donc j'ai commencé à paniquer en 2011, et j'ai écrit un article d'opinion disant qu'il était temps d'appuyer sur le bouton de panique parce que le monde se dirige dans une direction où la reconnaissance faciale va être omniprésente et les visages vont être partout disponibles dans les bases de données.

Et à l'époque les gens disaient que j'étais alarmiste, mais aujourd'hui ils se rendent compte que c'est exactement ce qui se passe aujourd'hui. Et alors, où allons-nous d'ici? J'ai fait du lobbying pour une législation. J'ai fait du lobbying pour des cadres juridiques qui vous obligent à utiliser le visage de quelqu'un sans son consentement. Et donc ce n'est plus un problème technologique. Nous ne pouvons pas contenir cette technologie puissante par des moyens technologiques. Il doit y avoir une sorte de cadre juridique. Nous ne pouvons pas laisser la technologie prendre trop d'avance sur nous. En avance sur nos valeurs, en avance sur ce que nous pensons être acceptable.

La question du consentement continue d'être l'une des questions les plus difficiles et les plus difficiles lorsqu'il s'agit de technologie, le simple fait d'avertir quelqu'un ne signifie pas que c'est suffisant. Pour moi, le consentement doit être éclairé. Ils doivent comprendre les conséquences de ce que cela signifie. Et pas seulement pour dire, eh bien, nous avons mis une inscription et cela a suffi. Nous l'avons dit aux gens, et s'ils ne voulaient pas, ils auraient pu aller n'importe où.

Et je trouve aussi que oui, il est si facile de se laisser séduire par des fonctionnalités technologiques flashy qui pourraient nous donner un avantage à court terme dans nos vies. Et puis en fin de compte, nous reconnaissons que nous avons renoncé à quelque chose qui était trop précieux. Et à ce moment-là, nous avons désensibilisé la population et nous arrivons à un point où nous ne pouvons pas reculer. C'est ce qui m'inquiète. Je m'inquiète du fait que la reconnaissance faciale passe par le travail de Facebook, d'Apple et d'autres. Je ne dis pas que tout est illégitime. Une grande partie est légitime.

Nous sommes arrivés à un point où le grand public est peut-être devenu blasé et peut-être désensibilisé parce qu'il le voit partout. Et peut-être que dans 20 ans, vous sortirez de chez vous. Vous n'aurez plus l'attente que vous ne seriez pas. Il ne sera pas reconnu par les dizaines de personnes que vous croiserez en chemin. Je pense qu'à ce moment-là, le public sera très alarmé parce que les médias commenceront à rapporter des cas où des gens ont été harcelés. Des personnes ont été ciblées, des personnes ont même été sélectionnées en fonction de leur valeur nette dans la rue et kidnappées. Je pense que c'est beaucoup de responsabilité sur nos mains.

Et donc je pense que la question du consentement continuera de hanter l'industrie. Et tant que cette question n'aura pas abouti, peut-être qu'elle ne sera pas résolue. Je pense que nous devons établir des limites sur ce qui peut être fait avec cette technologie.

Ma carrière m'a également appris qu'être trop en avance n'est pas une bonne chose car la reconnaissance faciale, telle que nous la connaissons aujourd'hui, a en fait été inventée en 1994. Mais la plupart des gens pensent qu'elle a été inventée par Facebook et les algorithmes d'apprentissage automatique, qui sont prolifèrent désormais dans le monde entier. En gros, à un moment donné, j'ai dû démissionner en tant que PDG public parce que je limitais l'utilisation de la technologie que mon entreprise allait promouvoir par peur des conséquences négatives pour l'humanité. Je pense donc que les scientifiques doivent avoir le courage de se projeter dans le futur et de voir les conséquences de leurs travaux. Je ne dis pas qu'ils devraient arrêter de faire des percées. Non, vous devriez aller de l'avant, faire plus de percées, mais nous devrions aussi être honnêtes avec nous-mêmes et alerter le monde et les décideurs politiques sur le fait que cette percée a des avantages et des inconvénients. Et donc, en utilisant cette technologie, nous avons besoin d'une sorte de conseils et de cadres pour nous assurer qu'elle est canalisée pour une application positive et non négative.

Jenifer : J'étais là quand... est un projet d'histoire orale présentant les histoires de personnes qui ont été témoins ou ont créé des percées dans l'intelligence artificielle et l'informatique.

Avez-vous une histoire à raconter? Connaissez-vous quelqu'un qui le fait? Envoyez-nous un e-mail à [email protected].

[MIDROLL]

[CRÉDITS]

Jennifer : Cet épisode a été enregistré à New York en décembre 2020 et produit par moi avec l'aide d'Anthony Green et d'Emma Cillekens. Nous sommes édités par Michael Reilly et Mat Honan. Notre ingénieur du mixage est Garret Lang… avec une conception sonore et une musique de Jacob Gorski.

Merci de m'avoir écouté, je suis Jennifer Strong.

[ID TR]

cacher