Les sept péchés capitaux des prédictions de l'IA

Joost Swarte

Nous sommes entourés d'hystérie quant à l'avenir de l'intelligence artificielle et de la robotique - hystérie quant à la puissance qu'ils deviendront, à quelle vitesse et ce qu'ils feront aux emplois.

J'ai récemment vu une histoire dans MarketWatch cela dit les robots occuperont la moitié des emplois actuels dans 10 à 20 ans . Il y avait même un graphique pour prouver les chiffres.

Cette histoire faisait partie de notre numéro de novembre 2017

• Voir la suite du problème
• S'abonner

Les revendications sont ridicules. (J'essaie de maintenir un langage professionnel, mais parfois …) Par exemple, l'histoire semble dire que nous passerons d'un million de travailleurs de terrain et d'entretien aux États-Unis à seulement 50 000 dans 10 à 20 ans, car les robots prendront en charge ces emplois . Combien de robots sont actuellement opérationnels dans ces emplois ? Zéro . Combien y a-t-il eu de démonstrations réalistes de robots travaillant dans ce domaine ? Zéro . Des histoires similaires s'appliquent à toutes les autres catégories où il est suggéré que nous verrons la fin de plus de 90% des emplois qui nécessitent actuellement une présence physique sur un site particulier.

Des prédictions erronées font craindre des choses qui ne se produiront pas, qu'il s'agisse de la destruction à grande échelle d'emplois, de la Singularité ou de l'avènement d'une IA qui a des valeurs différentes des nôtres et pourrait essayer de nous détruire. Nous devons repousser ces erreurs. Mais pourquoi les gens les fabriquent-ils ? Je vois sept raisons courantes.

Joost Swarte

1. Surestimer et sous-estimer

Roy Amara était cofondateur de l'Institute for the Future, à Palo Alto, le cœur intellectuel de la Silicon Valley. Il est surtout connu pour son adage maintenant appelé la loi d'Amara :

Nous avons tendance à surestimer l'effet d'une technologie à court terme et à sous-estimer l'effet à long terme.

Il y a beaucoup de choses dans ces 21 mots. Un optimiste peut le lire d'une façon, et un pessimiste peut le lire d'une autre.

Un excellent exemple des deux côtés de la loi d'Amara est le système de positionnement global américain. À partir de 1978, une constellation de 24 satellites (maintenant 31, y compris les pièces de rechange) a été placée en orbite. L'objectif du GPS était de permettre une livraison précise des munitions par l'armée américaine. Mais le programme a failli être annulé encore et encore dans les années 1980. La première utilisation opérationnelle aux fins prévues a eu lieu en 1991 pendant Desert Storm ; il a fallu encore plusieurs succès pour que les militaires acceptent son utilité.

Les prédictions erronées font craindre des choses qui ne se produiront pas.

Aujourd'hui, le GPS est dans ce qu'Amara appellerait le long terme, et les façons dont il est utilisé étaient inimaginables au début. Mon Apple Watch Series 2 utilise le GPS pendant que je cours, enregistrant ma position avec suffisamment de précision pour voir de quel côté de la rue je cours. La petite taille et le prix du récepteur auraient été incompréhensibles pour les premiers ingénieurs GPS. La technologie synchronise les expériences de physique à travers le monde et joue un rôle intime dans la synchronisation du réseau électrique américain et son fonctionnement. Cela permet même aux traders à haute fréquence qui contrôlent réellement le marché boursier d'éviter la plupart du temps des erreurs de timing désastreuses. Il est utilisé par tous nos avions, grands et petits, pour naviguer, et il est utilisé pour suivre les gens qui sortent de prison en liberté conditionnelle. Il détermine quelle variante de semences sera plantée dans quelle partie de nombreux champs à travers le monde. Il suit les flottes de camions et rend compte des performances des chauffeurs.

Le GPS a commencé avec un seul objectif, mais il a été difficile de le faire fonctionner aussi bien que prévu à l'origine. Maintenant, il s'est infiltré dans tant d'aspects de nos vies que nous ne serions pas simplement perdus s'il disparaissait ; nous serions froids, affamés et très probablement morts.

Nous observons une tendance similaire avec d'autres technologies au cours des 30 dernières années. Une grande promesse dès le départ, une déception, puis une confiance lentement croissante dans les résultats qui dépassent les attentes initiales. C'est le cas du calcul, du séquençage du génome, de l'énergie solaire, de l'énergie éolienne et même de la livraison de produits d'épicerie à domicile.

L'IA a été surestimée encore et encore, dans les années 1960, dans les années 1980, et je crois encore aujourd'hui, mais ses perspectives à long terme sont aussi probablement sous-estimées. La question est: Combien de temps dure le long terme ? Les six erreurs suivantes aident à expliquer pourquoi l'échelle de temps est grossièrement sous-estimée pour l'avenir de l'IA.

Joost Swarte

2. Imaginer la magie

Quand j'étais adolescent, Arthur C. Clarke était l'un des trois grands écrivains de science-fiction, avec Robert Heinlein et Isaac Asimov. Mais Clarke était aussi un inventeur, un écrivain scientifique et un futuriste. Entre 1962 et 1973, il a formulé trois adages connus sous le nom de Clarke’s Three Laws :

Lorsqu'un scientifique distingué mais âgé déclare que quelque chose est possible, il a presque certainement raison. Quand il affirme que quelque chose est impossible, il se trompe très probablement.

La seule façon de découvrir les limites du possible est de s'aventurer un peu au-delà dans l'impossible.

Toute technologie suffisamment avancée est indiscernable de la magie.

Personnellement, je devrais probablement me méfier de la deuxième phrase de sa première loi, car je suis beaucoup plus conservateur que d'autres sur la rapidité avec laquelle l'IA montera en puissance. Mais pour l'instant, je veux exposer la troisième loi de Clarke.

Imaginez que nous ayons une machine à voyager dans le temps et que nous puissions transporter Isaac Newton de la fin du 17e siècle à aujourd'hui, en l'installant dans un endroit qui lui serait familier : la Trinity College Chapel à l'Université de Cambridge.

Montrez maintenant à Newton une pomme. Sortez un iPhone de votre poche et allumez-le pour que l'écran soit brillant et plein d'icônes, et remettez-le-lui. Newton, qui a révélé comment la lumière blanche est fabriquée à partir de composants de lumière de différentes couleurs en séparant la lumière du soleil avec un prisme puis en la reconstituant, serait sans aucun doute surpris qu'un si petit objet produise des couleurs aussi vives dans l'obscurité de la chapelle. . Maintenant, jouez un film d'une scène country anglaise, puis de la musique d'église qu'il aurait entendue. Et puis montrez-lui une page Web avec plus de 500 pages de son copie annotée personnellement de son chef d'oeuvre Des principes , lui apprenant à utiliser le geste de pincement pour zoomer sur les détails.

Méfiez-vous des arguments sur la technologie future qui est magique.

Newton pourrait-il commencer à expliquer comment ce petit appareil a fait tout cela ? Bien qu'il ait inventé le calcul et expliqué à la fois l'optique et la gravité, il n'a jamais été en mesure de distinguer la chimie de l'alchimie. Je pense donc qu'il serait perplexe et incapable de proposer ne serait-ce qu'un aperçu cohérent de ce qu'était cet appareil. Ce ne serait pas différent pour lui d'une incarnation de l'occultisme – quelque chose qui l'intéressait beaucoup. Ce serait indiscernable de la magie. Et rappelez-vous, Newton était un mec vraiment intelligent.

Si quelque chose est magique, il est difficile de connaître ses limites. Supposons que nous montrons en outre à Newton comment l'appareil peut éclairer l'obscurité, comment il peut prendre des photos et des films et enregistrer du son, comment il peut être utilisé comme loupe et comme miroir. Ensuite, nous lui montrons comment il peut être utilisé pour effectuer des calculs arithmétiques à une vitesse incroyable et avec de nombreuses décimales. Nous le montrons en comptant les pas qu'il a faits pendant qu'il le porte, et lui montrons qu'il peut l'utiliser pour parler aux gens n'importe où dans le monde, immédiatement, de là même dans la chapelle.

Qu'est-ce que Newton pourrait conjecturer d'autre que l'appareil pourrait faire ? Les prismes fonctionnent pour toujours. Supposerait-il que l'iPhone fonctionnerait toujours tel quel, négligeant de comprendre qu'il a besoin d'être rechargé ? Rappelez-vous que nous l'avons attrapé à une époque 100 ans avant la naissance de Michael Faraday, il lui manquait donc une compréhension scientifique de l'électricité. Si l'iPhone peut être une source de lumière sans feu, pourrait-il aussi transmuter le plomb en or ?

C'est un problème que nous avons tous avec la technologie future imaginée. S'il est suffisamment éloigné de la technologie dont nous disposons et que nous comprenons aujourd'hui, nous ne connaissons pas ses limites. Et s'il devient indiscernable de la magie, tout ce qu'on en dit n'est plus falsifiable.

C'est un problème que je rencontre régulièrement lorsque j'essaie de débattre avec les gens pour savoir si nous devons craindre l'intelligence artificielle générale, ou AGI - l'idée que nous allons construire des agents autonomes qui fonctionnent un peu comme des êtres dans le monde. On me dit que je ne comprends pas à quel point AGI sera puissant. Ce n'est pas un argument. Nous n'avons aucune idée si cela peut même exister. J'aimerais que ça existe - cela a toujours été ma propre motivation pour travailler dans la robotique et l'IA. Mais la recherche AGI moderne ne réussit pas du tout à être générale ou à soutenir une entité indépendante ayant une existence continue. Il semble principalement bloqué sur les mêmes problèmes de raisonnement et de bon sens avec lesquels l'IA a eu des problèmes pendant au moins 50 ans. Toutes les preuves que je vois indiquent que nous n'avons pas encore vraiment d'idée sur la façon d'en construire un. Ses propriétés sont totalement inconnues, alors rhétoriquement elle devient vite magique, puissante sans limite.

Rien dans l'univers n'est sans limite.

Méfiez-vous des arguments sur la technologie future qui est magique. Un tel argument ne peut jamais être réfuté. C'est un argument basé sur la foi, pas un argument scientifique.

Joost Swarte

3. Performance versus compétence

Nous utilisons tous des indices sur la façon dont les gens exécutent une tâche particulière pour estimer dans quelle mesure ils pourraient effectuer une tâche différente. Dans une ville étrangère, nous demandons à un étranger dans la rue des directions, et elle répond avec confiance et avec des directions qui semblent avoir du sens, nous pensons donc que nous pouvons également lui poser des questions sur le système local pour payer quand vous voulez prendre un bus.

Supposons maintenant qu'une personne nous dise qu'une photo particulière montre des gens jouant au frisbee dans le parc. Nous supposons naturellement que cette personne peut répondre à des questions comme Quelle est la forme d'un Frisbee ? À quelle distance environ une personne peut-elle lancer un Frisbee ? Une personne peut-elle manger un Frisbee ? Environ combien de personnes jouent au frisbee en même temps ? Un enfant de trois mois peut-il jouer au Frisbee ? Le temps d'aujourd'hui est-il propice pour jouer au frisbee ?

Les ordinateurs qui peuvent étiqueter des images comme des personnes jouant au frisbee dans un parc n'ont aucune chance de répondre à ces questions. Outre le fait qu'ils ne peuvent qu'étiqueter plus d'images et ne peuvent pas du tout répondre aux questions, ils n'ont aucune idée de ce qu'est une personne, que les parcs sont généralement à l'extérieur, que les gens ont des âges, que le temps est autre chose que l'apparence d'une photo, etc.

Cela ne signifie pas que ces systèmes sont inutiles ; ils sont d'une grande valeur pour les moteurs de recherche. Mais voici ce qui ne va pas. Les gens entendent dire qu'un robot ou un système d'IA a effectué une tâche. Ils généralisent ensuite cette performance à une compétence qu'une personne exécutant la même tâche pourrait être censée avoir. Et ils appliquent cette généralisation au robot ou au système d'IA.

Les robots et les systèmes d'IA d'aujourd'hui sont incroyablement limités dans ce qu'ils peuvent faire. Les généralisations à la manière humaine ne s'appliquent pas.

Joost Swarte

4. Les mots de la valise

Marvin Minsky a appelé les mots qui portent une variété de mots de valise de significations. L'apprentissage est un mot valise puissant; il peut faire référence à tant de types d'expériences différents. Apprendre à utiliser des baguettes est une expérience très différente de l'apprentissage de la mélodie d'une nouvelle chanson. Et apprendre à écrire du code est une expérience très différente de l'apprentissage de votre chemin dans une ville.

Lorsque les gens entendent dire que l'apprentissage automatique fait de grands progrès dans un nouveau domaine, ils ont tendance à utiliser comme modèle mental la manière dont une personne apprendrait ce nouveau domaine. Cependant, l'apprentissage automatique est très fragile et nécessite beaucoup de préparation de la part de chercheurs ou d'ingénieurs humains, un codage à usage spécifique, des ensembles de données de formation à usage spécifique et une structure d'apprentissage personnalisée pour chaque nouveau domaine de problème. L'apprentissage automatique d'aujourd'hui n'est pas du tout l'apprentissage en forme d'éponge dans lequel les humains s'engagent, progressant rapidement dans un nouveau domaine sans avoir à être modifié chirurgicalement ou construit à cet effet.

De même, lorsque les gens entendent dire qu'un ordinateur peut battre le champion du monde d'échecs (en 1997) ou l'un des meilleurs joueurs de go du monde (en 2016), ils ont tendance à penser qu'il joue au jeu comme le ferait un humain. Bien sûr, en réalité, ces programmes n'avaient aucune idée de ce qu'était réellement un jeu, ni même à quoi ils jouaient. Ils étaient aussi beaucoup moins adaptables. Lorsque les humains jouent à un jeu, un petit changement dans les règles ne les déconcerte pas. Ce n'est pas le cas pour AlphaGo ou Deep Blue.

Les mots de valise trompent les gens sur la façon dont les machines font des tâches que les gens peuvent faire. C'est en partie parce que les chercheurs en IA - et, pire, leurs bureaux de presse institutionnels - sont impatients de revendiquer des progrès dans un exemple de concept de valise. La phrase importante ici est un exemple. Ce détail se perd rapidement. Les gros titres trompent le mot valise et déforment la compréhension générale de la situation de l'IA et de sa proximité avec l'accomplissement de plus.

Joost Swarte

5. Exponentiels

Beaucoup de gens souffrent d'un cas grave d'exponentialisme.

Tout le monde a une idée de la loi de Moore, qui suggère que les ordinateurs s'améliorent de plus en plus selon un calendrier d'horlogerie. Ce que Gordon Moore a en fait dit, c'est que le nombre de composants pouvant tenir sur une puce doublerait chaque année. Cela a été vrai pendant 50 ans, bien que la constante de temps pour le doublement se soit progressivement allongée d'un an à plus de deux ans, et le schéma touche à sa fin.

Le doublement des composants sur une puce a permis aux ordinateurs de doubler continuellement leur vitesse. Et cela a conduit à des puces de mémoire dont la capacité quadruple tous les deux ans. Cela a également conduit à des appareils photo numériques qui ont une résolution de mieux en mieux et à des écrans LCD avec un nombre exponentiel de pixels.

La raison pour laquelle la loi de Moore a fonctionné est qu'elle s'appliquait à une abstraction numérique d'une question vrai ou faux. Dans un circuit donné, y a-t-il ou non une charge ou une tension électrique ? La réponse reste claire à mesure que les composants des puces deviennent de plus en plus petits, jusqu'à ce qu'une limite physique intervienne et que nous arrivions à des composants avec si peu d'électrons que les effets quantiques commencent à dominer. C'est là où nous en sommes avec notre technologie de puce à base de silicium.

Lorsque les gens souffrent d'exponentielisme, ils peuvent penser que les exponentielles qu'ils utilisent pour justifier un argument vont continuer rapidement. Mais la loi de Moore et d'autres lois apparemment exponentielles peuvent échouer parce qu'elles n'étaient pas vraiment exponentielles en premier lieu.

Au début de ce siècle, lorsque je dirigeais le laboratoire d'informatique et d'intelligence artificielle du MIT (CSAIL) et que j'avais besoin d'aider à collecter des fonds pour plus de 90 groupes de recherche différents, j'ai essayé d'utiliser l'augmentation de la mémoire sur les iPod pour montrer aux sponsors comment les choses continuaient à changer très rapidement. Voici les données sur la quantité de stockage de musique obtenue dans un iPod pour 400 $ ou moins :

an	gigaoctets
2002	dix
2003	vingt
2004	40
2006	80
2007	160

Ensuite, j'extrapolerais quelques années et je me demanderais ce que nous ferions avec toute cette mémoire dans nos poches.

En extrapolant jusqu'à aujourd'hui, on s'attendrait à ce qu'un iPod à 400 $ ait 160 000 gigaoctets de mémoire. Mais le meilleur iPhone d'aujourd'hui (qui coûte bien plus de 400 $) n'a que 256 gigaoctets de mémoire, soit moins du double de la capacité de l'iPod de 2007. Cette exponentielle particulière s'est effondrée très soudainement une fois que la quantité de mémoire est arrivée au point où elle était assez grande pour contenir la bibliothèque musicale et les applications, photos et vidéos de toute personne raisonnable. Les exponentielles peuvent s'effondrer lorsqu'une limite physique est atteinte ou lorsqu'il n'y a plus de justification économique pour les poursuivre.

De même, nous avons vu une augmentation soudaine des performances des systèmes d'IA grâce au succès du deep learning. Beaucoup de gens semblent penser que cela signifie que nous continuerons à voir les performances de l'IA augmenter par des multiples égaux sur une base régulière. Mais le succès de l'apprentissage en profondeur a duré 30 ans et il s'agissait d'un événement isolé.

Cela ne signifie pas qu'il n'y aura pas plus d'événements isolés, où le travail des backwaters de la recherche sur l'IA alimente soudainement une augmentation rapide des performances de nombreuses applications d'IA. Mais aucune loi ne dit à quelle fréquence ils se produiront.

Joost Swarte

6. Scénarios hollywoodiens

L'intrigue de nombreux films de science-fiction hollywoodiens est que le monde est tel qu'il est aujourd'hui, à l'exception d'un nouveau rebondissement.

Dans Homme bicentenaire , Richard Martin, joué par Sam Neill, s'assied pour le petit-déjeuner et est servi par un robot humanoïde qui marche et parle, joué par Robin Williams. Richard prend un journal pour le lire pendant le petit-déjeuner. Un journal! Imprimé sur papier. Pas une tablette, pas un podcast provenant d'un appareil de type Amazon Echo, pas une connexion neuronale directe à Internet.

Il s'avère que de nombreux chercheurs et experts en IA, en particulier les pessimistes qui se livrent à des prédictions sur l'IA devenant incontrôlable et tuant des gens, sont également confrontés à un défi d'imagination. Ils ignorent le fait que si nous sommes en mesure de construire de tels appareils intelligents, le monde aura considérablement changé d'ici là. Nous ne serons pas soudainement surpris par l'existence de telles super-intelligences. Ils évolueront technologiquement avec le temps, et notre monde sera peuplé de nombreuses autres intelligences, et nous aurons déjà beaucoup d'expérience. Bien avant qu'il y ait des super-intelligences maléfiques qui voudront se débarrasser de nous, il y aura des machines un peu moins intelligentes, moins belliqueuses. Avant cela, il y aura des machines vraiment grincheuses. Avant cela, des machines assez ennuyeuses. Et devant eux, des machines arrogantes et désagréables. Nous changerons notre monde en cours de route, en adaptant à la fois l'environnement aux nouvelles technologies et les nouvelles technologies elles-mêmes. Je ne dis pas qu'il n'y aura peut-être pas de défis. Je dis qu'ils ne seront pas soudains et inattendus, comme beaucoup de gens le pensent.

Joost Swarte

7. Rapidité de déploiement

De nouvelles versions de logiciels sont déployées très fréquemment dans certaines industries. De nouvelles fonctionnalités pour des plateformes comme Facebook sont déployées presque toutes les heures. Pour de nombreuses nouvelles fonctionnalités, tant qu'elles ont réussi les tests d'intégration, il y a très peu d'inconvénients économiques si un problème survient sur le terrain et que la version doit être retirée. C'est un rythme auquel la Silicon Valley et les développeurs de logiciels Web se sont habitués. Cela fonctionne parce que le coût marginal du nouveau déploiement de code est très, très proche de zéro.

Le déploiement de nouveau matériel, en revanche, a des coûts marginaux importants. Nous le savons par nos propres vies. La plupart des voitures que nous achetons aujourd'hui, qui ne sont pas autonomes et, pour la plupart, ne sont pas équipées de logiciels, seront probablement encore sur la route en 2040. Cela impose une limite inhérente à la date à laquelle toutes nos voitures seront autonomes. -conduite. Si nous construisons une nouvelle maison aujourd'hui, nous pouvons nous attendre à ce qu'elle soit là pendant plus de 100 ans. Le bâtiment dans lequel j'habite a été construit en 1904, et ce n'est pas le plus ancien de mon quartier.

Les coûts d'investissement maintiennent le matériel physique en place pendant longtemps, même lorsqu'il comporte des aspects de haute technologie, et même lorsqu'il a une mission existentielle.

L'US Air Force utilise toujours la variante B-52H du bombardier B-52. Cette version a été introduite en 1961, ce qui lui donne 56 ans. Le dernier a été construit en 1962, il y a à peine 55 ans. Actuellement, ces avions devraient continuer à voler jusqu'en 2040 au moins, et peut-être plus longtemps - il est question de prolonger leur durée de vie à 100 ans.

Je vois régulièrement des équipements vieux de plusieurs décennies dans des usines du monde entier. Je vois même des PC exécutant Windows 3.0, une version du logiciel publiée en 1990. La pensée est Si ce n'est pas cassé, ne le réparez pas. Ces PC et leurs logiciels exécutent la même application et effectuent la même tâche de manière fiable depuis plus de deux décennies.

Presque toutes les innovations en robotique et en IA prennent beaucoup, beaucoup, plus de temps pour être déployées à grande échelle que ne l'imaginent les gens sur le terrain et en dehors du terrain.

Le principal mécanisme de contrôle dans les usines, y compris les toutes nouvelles aux États-Unis, en Europe, au Japon, en Corée et en Chine, est basé sur des contrôleurs logiques programmables, ou PLC. Ceux-ci ont été introduits en 1968 pour remplacer les relais électromécaniques. La bobine reste la principale unité d'abstraction utilisée aujourd'hui et les automates sont programmés comme s'il s'agissait d'un réseau de relais électromécaniques 24 volts. Toujours. Certains des fils directs ont été remplacés par des câbles Ethernet. Mais ils ne font pas partie d'un réseau ouvert. Au lieu de cela, ce sont des câbles individuels, exécutés point par point, incarnant physiquement le flux de contrôle - l'ordre dans lequel les étapes sont exécutées - dans ces tout nouveaux contrôleurs d'automatisation anciens. Lorsque vous souhaitez modifier le flux d'informations, ou le flux de contrôle, dans la plupart des usines du monde, il faut des semaines à des consultants pour déterminer ce qui existe, concevoir de nouvelles reconfigurations, puis des équipes d'artisans pour recâbler et reconfigurer le matériel. L'un des principaux fabricants de cet équipement m'a récemment dit qu'il visait trois mises à jour logicielles tous les 20 ans.

En principe, cela pourrait être fait différemment. En pratique, ce n'est pas le cas. Je viens de regarder sur une liste d'emplois, et même aujourd'hui, ce jour même, Tesla Motors essaie d'embaucher des techniciens PLC dans son usine de Fremont, en Californie. Ils utiliseront l'émulation de relais électromagnétique dans la production de l'automobile la plus améliorée par l'IA qui existe.

De nombreux chercheurs et experts en IA imaginent que le monde est déjà numérique et que le simple fait d'introduire de nouveaux systèmes d'IA se répercutera immédiatement sur les changements opérationnels sur le terrain, dans la chaîne d'approvisionnement, dans l'usine, dans la conception des produits.

Rien ne pourrait être plus éloigné de la vérité. Presque toutes les innovations en robotique et en IA prennent beaucoup, beaucoup, plus de temps pour être déployées à grande échelle que ne l'imaginent les gens sur le terrain et en dehors du terrain.

Rodney Brooks est un ancien directeur du laboratoire d'informatique et d'intelligence artificielle du MIT et l'un des fondateurs de Rethink Robotics et iRobot. Cet essai est adapté avec la permission d'un Publier qui est apparu à l'origine sur rodneybrooks.com.

cacher