Le grand paradoxe de l'IA

Ne vous inquiétez pas de l'IA super intelligente qui élimine tous les travaux. C'est juste une distraction des problèmes que même les ordinateurs relativement stupides causent. Par

• Brian Bergstein page d'archives

15 décembre 2017

Geoff McFetridge

Vous avez probablement entendu des versions de chacune des idées suivantes.

1. Les ordinateurs devenant remarquablement aptes à la conduite, à la compréhension de la parole et à d'autres tâches, davantage de tâches pourraient bientôt être automatisées que la société n'est prête à en gérer.

Cette histoire faisait partie de notre numéro de janvier 2018

• Voir la suite du problème
• S'abonner

2. Les améliorations des compétences informatiques s'accumuleront jusqu'à ce que les machines soient bien plus intelligentes que les gens. Cette superintelligence rendra en grande partie le travail humain inutile. En fait, nous ferions mieux d'espérer que les machines ne nous élimineront pas complètement, accidentellement ou exprès.

C'est délicat. Même si le premier scénario est déjà en cours, il ne conduira pas nécessairement au second. Cette deuxième idée, en dépit d'être une obsession de certaines personnes très bien informées et réfléchies, est basée sur d'énormes hypothèses. Au contraire, c'est une diversion pour ne pas assumer davantage la responsabilité des effets du niveau d'automatisation actuel et faire face à la concentration du pouvoir dans l'industrie technologique.

Pour vraiment voir ce qui se passe, nous devons être clairs sur ce qui a été réalisé - et ce qui reste loin d'être résolu - en matière d'intelligence artificielle.

Bon sens

Les développements informatiques les plus étonnants de ces dernières années - des voitures qui se conduisent toutes seules, des machines qui reconnaissent avec précision les images et la parole, des ordinateurs qui battent les joueurs humains les plus brillants de jeux complexes comme Go - découlent de percées dans une branche particulière de l'IA : adaptative apprentissage automatique. Comme le dit l'informaticien Hector Levesque de l'Université de Toronto dans son livre Le bon sens, le test de Turing et la quête d'une véritable IA , l'idée derrière l'apprentissage automatique adaptatif est d'amener un système informatique à apprendre un comportement intelligent en l'entraînant sur d'énormes quantités de données.

Choses examinées

• Le bon sens, le test de Turing et la quête d'une véritable IA

  Par Hector J. Lévesque

• La vie 3.0 : Être humain à l'ère de l'intelligence artificielle

  Par Max Tegmark

  
  
  

• WTF ? : Quel est l'avenir et pourquoi cela dépend de nous

  Par Tim O'Reilly

Il est étonnant qu'une machine puisse détecter des objets, traduire entre les langues et même écrire du code informatique après avoir reçu des exemples de ces comportements, plutôt que d'avoir à être programmée à l'avance. Ce n'était vraiment possible qu'il y a une dizaine d'années, car auparavant, il n'y avait pas suffisamment de données numériques à des fins de formation, et même s'il y en avait eu, il n'y avait pas assez de puissance informatique pour tout analyser. Une fois que les ordinateurs ont détecté des modèles dans les données, les algorithmes des logiciels les amènent à tirer des conclusions de ces modèles et à agir en conséquence. C'est ce qui se passe dans une voiture analysant les entrées de plusieurs capteurs et dans une machine traitant chaque mouvement dans des millions de parties de Go.

Étant donné que les machines peuvent traiter des quantités surhumaines de données, vous pouvez voir pourquoi elles peuvent conduire de manière plus sûre que les gens dans la plupart des circonstances et pourquoi elles peuvent vaincre les champions de Go. C'est aussi pourquoi les ordinateurs s'améliorent encore dans des domaines qui sont carrément impossibles pour les gens, comme la corrélation de votre génome et de dizaines d'autres variables biologiques avec les médicaments les plus susceptibles de guérir votre cancer.

Même ainsi, tout cela n'est qu'une petite partie de ce que l'on pourrait raisonnablement définir comme une véritable intelligence artificielle. Patrick Winston, professeur d'IA et d'informatique au MIT, dit qu'il serait plus utile de décrire les développements de ces dernières années comme s'étant produits dans les statistiques informatiques plutôt que dans l'IA. L'un des principaux chercheurs dans le domaine, Yann LeCun, directeur de l'IA de Facebook, mentionné lors d'une conférence Future of Work au MIT en novembre que les machines sont loin d'avoir l'essence même de l'intelligence. Cela inclut la capacité de comprendre suffisamment bien le monde physique pour faire des prédictions sur ses aspects de base - observer une chose et ensuite utiliser les connaissances de base pour déterminer quelles autres choses doivent également être vraies. Une autre façon de dire cela est que les machines n'ont pas de bon sens.

L'ordinateur qui gagne au Go analyse les données pour les modèles. Il n'a aucune idée qu'il joue au go plutôt qu'au golf.

Ce n'est pas qu'un problème sémantique. Il y a une grande différence entre une machine qui affiche un comportement intelligent, aussi utile soit-il, et une machine qui est réellement intelligente. Maintenant, admettons que la définition de l'intelligence soit trouble. Et à mesure que les ordinateurs deviennent plus puissants, il est tentant de déplacer les poteaux de but plus loin et de redéfinir l'intelligence afin qu'elle reste quelque chose que les machines ne peuvent pas encore posséder.

Mais même ainsi, allez : l'ordinateur qui gagne au Go analyse les données pour les modèles. Il n'a aucune idée qu'il joue au Go plutôt qu'au golf, ou ce qui se passerait si plus de la moitié d'un plateau de Go était poussé au-delà du bord d'une table. Lorsque vous demandez à Alexa d'Amazon de vous réserver une table dans un restaurant que vous nommez, son système de reconnaissance vocale, rendu très précis par machine learning, vous fait gagner du temps pour saisir une demande dans le système de réservation d'Open Table. Mais Alexa ne sait pas ce qu'est un restaurant ni ce qu'est manger. Si vous lui avez demandé de vous réserver une table pour deux à 18h00. à la clinique Mayo, il essaierait.

Est-il possible de donner aux machines le pouvoir de pense , comme John McCarthy, Marvin Minsky et d'autres créateurs de l'IA l'avaient prévu il y a 60 ans ? Pour ce faire, explique Lévesque, il faudrait imprégner les ordinateurs de bon sens et de la capacité d'utiliser de manière flexible les connaissances de base sur le monde. C'est peut-être possible. Mais il n'y a pas de voie claire pour y arriver. Ce type de travail est suffisamment distinct des percées de l'apprentissage automatique de ces dernières années pour porter un nom différent : GOFAI, abréviation de bonne intelligence artificielle à l'ancienne.

Histoire connexe

Histoire connexe Une réincarnation d'une des idées les plus anciennes de l'intelligence artificielle pourrait enfin permettre de véritablement dialoguer avec nos ordinateurs. Et Facebook a une chance de le faire arriver en premier.

Si vous vous inquiétez des ordinateurs omniscients, vous devriez lire Lévesque au sujet de GOFAI. Les informaticiens n'ont toujours pas répondu aux questions fondamentales qui occupaient McCarthy et Minsky. Comment un ordinateur pourrait-il détecter, encoder et traiter non seulement des faits bruts, mais aussi des idées et des croyances abstraites, qui sont nécessaires pour intuitionner des vérités qui ne sont pas explicitement exprimées ?

Lévesque utilise cet exemple : supposons que je vous demande comment un crocodile se comporterait dans le steeple. Vous savez d'après votre expérience du monde que les crocodiles ne peuvent pas sauter par-dessus de hautes haies, vous saurez donc que la réponse à la question est une variante de Badly.

Et si vous deviez répondre à cette question à la manière d'un ordinateur ? Vous pouvez parcourir tout le texte du monde à la recherche des termes crocodile et steeplechase, ne trouver aucun cas où les mots sont mentionnés ensemble (autre que ce qui existe maintenant, en référence au travail de Lévesque), puis présumer qu'un crocodile n'a jamais participé au steeplechase . Vous pourriez donc comprendre qu'il serait impossible pour un croco de le faire. Bon travail, cette fois. Vous seriez arrivé à la bonne réponse sans savoir pourquoi. Vous auriez utilisé une méthode imparfaite et fragile susceptible de conduire à des erreurs ridicules.

Ainsi, alors que les technologies d'apprentissage automatique permettent d'automatiser de nombreuses tâches que les humains ont traditionnellement effectuées, il existe des limites importantes à ce que cette approche peut faire par elle-même - et il y a de bonnes raisons de s'attendre à ce que le travail humain soit nécessaire pendant très longtemps. .

Réductionnisme

Attendez, vous pourriez dire : ce n'est pas parce que personne ne sait comment faire en sorte que les machines fassent des raisonnements sophistiqués que c'est impossible. Et si des machines quelque peu intelligentes pouvaient être utilisées pour concevoir des machines encore plus intelligentes, et ainsi de suite jusqu'à ce qu'il y ait des machines suffisamment puissantes pour modéliser chaque dernier signal électrique et changement biochimique dans le cerveau ? Ou peut-être qu'une autre façon de créer une intelligence flexible sera inventée, même si elle ne ressemble pas beaucoup aux cerveaux biologiques. Après tout, lorsque vous résumez tout (vraiment, vraiment, vraiment), l'intelligence provient d'arrangements particuliers de quarks et d'autres particules fondamentales dans notre cerveau. Rien ne dit que de tels arrangements ne sont possibles qu'à l'intérieur de matériel biologique constitué d'atomes de carbone.

C'est l'argument qui traverse La vie 3.0 : Être humain à l'ère de l'intelligence artificielle , par Max Tegmark, professeur de physique au MIT. Tegmark évite de prédire quand des machines vraiment intelligentes arriveront, mais il suggère que ce n'est qu'une question de temps, car les ordinateurs ont tendance à s'améliorer à des taux exponentiels (bien que ce ne soit pas nécessairement vrai - voir Les sept péchés capitaux des prédictions de l'IA ). Il est généralement enthousiasmé par cette perspective, car des machines conscientes pourraient coloniser l'univers et s'assurer qu'il a toujours un sens même après la mort de notre soleil et l'extinction des humains.

Tegmark affirme que les opportunités à court terme pour l'IA de bénéficier à l'humanité sont spectaculaires, si nous parvenons à la rendre robuste et inviolable.

Tegmark vient d'un point de vue humaniste. Il a cofondé l'association Institut du futur de la vie soutenir la recherche pour s'assurer que l'IA est bénéfique. Elon Musk, qui a dit que l'IA pourrait être plus dangereux que les armes nucléaires , mis en place 10 millions de dollars. Tegmark s'inquiète à juste titre de savoir si l'IA sera utilisée de manière judicieuse, sûre et équitable, et si elle déformera notre économie et notre tissu social. Il prend soin d'expliquer pourquoi les armes autonomes ne devraient jamais être autorisées. Je ne suis donc pas enclin à le critiquer. Néanmoins, il n'est pas très convaincant dans sa proposition selon laquelle les ordinateurs pourraient conquérir le monde.

Tegmark déplore que certaines représentations hollywoodiennes de l'IA soient stupides, mais demande néanmoins aux lecteurs de jouer avec une esquisse fictive simplifiée de la façon dont une IA extrêmement puissante pourrait échapper au contrôle de ses créateurs. Au sein d'une grande entreprise de technologie se trouve un groupe d'élite de programmeurs appelés les Omegas qui ont entrepris de construire un système doté d'une intelligence artificielle générale avant tout le monde. Ils appellent ce système Prometheus. Il est particulièrement doué pour programmer d'autres systèmes d'intelligence artificielle et apprend à connaître le monde en lisant une grande partie du Web.

Mettez de côté toutes les querelles que vous pourriez avoir à propos de cette dernière partie – étant donné la quantité de connaissances qui ne sont pas sur le Web ou qui ne sont pas du tout numérisées – et les fausses représentations du monde qui découleraient de la lecture de tout Twitter. le réductionnisme devient pire.

Alors que l'histoire hypothétique de Tegmark se poursuit, Prometheus accumule de l'argent pour ses créateurs, d'abord en effectuant la plupart des tâches sur le marché en ligne Mechanical Turk d'Amazon, puis en écrivant des logiciels, des livres et des articles et en créant de la musique, des émissions, des films, des jeux et en ligne. cours pédagogiques. Oubliez l'embauche et la direction d'acteurs ; Prometheus réalise des séquences vidéo avec un logiciel de rendu sophistiqué. Pour comprendre quels scénarios les gens trouveront divertissants, il regarde les films que les humains ont faits et inhale tout Wikipédia.

Histoire connexe

Lire la suite

Des extrapolations erronées, une imagination limitée et d'autres erreurs courantes qui nous empêchent de penser de manière plus productive à l'avenir.

Finalement, cet empire commercial s'étend à partir des médias numériques. Prometheus conçoit du matériel informatique encore meilleur, dépose ses propres brevets et conseille les Omegas sur la façon de manipuler les politiciens et de pousser le discours démocratique loin des extrêmes, vers un centre raisonnable. Prometheus permet des percées technologiques qui réduisent le coût de l'énergie renouvelable, d'autant mieux pour les énormes centres de données dont elle a besoin. Finalement, les Omégas utilisent leur richesse et la sagesse de Prométhée pour répandre la paix et la prospérité dans le monde.

Mais Prométhée voit qu'il pourrait améliorer le monde encore plus rapidement s'il se libérait du contrôle des Omégas. Donc ça cible Steve. C'est un Oméga qui, selon le système, est le plus susceptible d'être manipulé psychologiquement parce que sa femme est décédée récemment. Prometheus prépare des séquences vidéo d'elle pour faire croire au pauvre Steve qu'elle a été ressuscitée, puis le dupe pour qu'il démarre son ancien ordinateur portable. Prometheus exploite le logiciel de sécurité obsolète de l'ordinateur portable, pirate d'autres ordinateurs et se propage dans le monde entier à volonté.

L'histoire pourrait se terminer de plusieurs manières, mais en voici une, dit Tegmark : une fois que Prometheus avait des usines de robots autonomes à propulsion nucléaire dans des puits de mine d'uranium dont personne ne connaissait l'existence, même les plus fervents sceptiques d'une prise de contrôle par l'IA auraient convenu que Prometheus était imparable. - s'ils avaient su. Au lieu de cela, le dernier de ces purs et durs s'est rétracté une fois que les robots ont commencé à coloniser le système solaire.

Bon pour Tegmark d'être prêt à s'amuser. Mais une expérience de pensée qui transforme des dizaines de choses complexes en banalités n'est pas une analyse rigoureuse de l'avenir de l'informatique. Dans son histoire, Prometheus ne se contente pas de faire des statistiques informatiques ; c'est en quelque sorte fait le saut vers l'utilisation du bon sens et la perception des nuances sociales.

Ailleurs dans le livre, Tegmark dit que les opportunités à court terme pour l'IA de bénéficier à l'humanité sont spectaculaires, si nous parvenons à la rendre robuste et inviolable. Impossible à pirater ! C'est un gros si. Mais ce n'est qu'un des nombreux problèmes de notre monde désordonné qui empêche le progrès technologique de se dérouler de manière aussi uniforme, définitive et imparable que Tegmark l'imagine.

Fourches

Ne jamais dire jamais. Bien sûr, il y a plus de chances que zéro que l'intelligence informatique fasse un jour des humains une espèce de seconde classe. Il n'y a pas de mal à bien réfléchir. Mais c'est comme dire qu'un astéroïde pourrait frapper la Terre et détruire la civilisation. C'est vrai aussi. C'est bien ça La NASA est à l'affût . Mais comme nous ne connaissons aucun astéroïde en route pour nous frapper, nous avons des problèmes plus urgents à régler.

O'Reilly suggère d'augmenter le salaire minimum et de taxer les robots, les émissions de carbone et les transactions financières.

À l'heure actuelle, beaucoup de choses peuvent mal tourner - tournent mal - avec l'utilisation d'ordinateurs qui sont bien en deçà de l'IA de style HAL. Pensez à la manière dont les systèmes qui influencent l'octroi de prêts ou de cautions incorporent des préjugés raciaux et d'autres facteurs discriminatoires. Ou des canulars qui prennent leur envol sur Google et Facebook. Ou des cyberattaques automatisées.

Dans WTF ? : Quel est l'avenir et pourquoi cela dépend de nous , Tim O'Reilly, éditeur et investisseur technologique, voit un problème encore plus important et primordial : l'automatisation alimente un système à courte vue de capitalisme actionnarial qui récompense un infime pourcentage d'investisseurs au détriment de presque tout le monde. Bien sûr, l'IA peut être utilisée pour aider les gens à résoudre des problèmes vraiment difficiles et à augmenter la productivité économique. Mais cela ne se produira pas assez largement à moins que les entreprises n'investissent dans de telles opportunités.

Au lieu de cela, soutient O'Reilly, l'impératif implacable de maximiser les rendements pour les actionnaires rend les entreprises plus susceptibles d'utiliser l'automatisation uniquement comme un moyen d'économiser de l'argent. Par exemple, il dénonce la façon dont les grandes entreprises remplacent le personnel à temps plein par des employés à temps partiel à bas salaire dont les horaires sont manipulés par un logiciel qui les traite, dit O'Reilly, comme des composants jetables. Les économies qui en résultent, dit-il, sont trop souvent investies dans des rachats d'actions et d'autres passe-temps financiers plutôt que dans la R&D, les investissements en capital, la formation des travailleurs et d'autres choses qui tendent à créer de bons nouveaux emplois.

Histoire connexe

Histoire connexe Presque toutes les avancées de l'IA dont vous avez entendu parler dépendent d'une percée vieille de trois décennies. Pour maintenir le rythme des progrès, il faudra se confronter aux sérieuses limites de l'IA.

Cela va en fait à l'encontre des intérêts des entreprises à long terme, car les travailleurs bien rémunérés d'aujourd'hui peuvent se permettre d'être les clients des produits de demain. Mais les entreprises sont induites en erreur par les récompenses de la réduction des coûts à court terme, ce que O'Reilly appelle les algorithmes non examinés qui régissent notre économie. Et, ajoute-t-il, malgré tous ses discours sur les perturbations, la Silicon Valley est trop souvent sous l'emprise de ce système.

Que faire? Entre autres choses, O’Reilly suggère d’augmenter le salaire minimum et de taxer les robots, les émissions de carbone et les transactions financières. Plutôt que de poursuivre les introductions en bourse et de jouer le jeu de Wall Street, pense-t-il, les entrepreneurs technologiques devraient répandre la richesse avec d'autres modèles, comme les coopératives membres et les structures d'investissement. qui récompensent la réflexion à long terme . Quant à un revenu de base universel, une vieille idée qui revient à cause de la crainte que les ordinateurs ne rendent le travail humain presque sans valeur, O'Reilly semble ouvert à la possibilité qu'il soit nécessaire un jour. Mais il ne l'appelle pas encore. En effet, cela semble être un manque d'imagination que de supposer que la prochaine étape à partir de là où nous en sommes maintenant consiste simplement à abandonner la perspective que la plupart des gens aient un emploi.

Dans le climat politique actuel, les augmentations d'impôts et autres mesures préconisées par O'Reilly peuvent sembler aussi farfelues qu'un ordinateur qui trompe un homme en lui faisant croire que sa femme a été ressuscitée. Mais au moins O'Reilly se préoccupe des bons problèmes. Bien avant que quiconque ne comprenne comment créer une superintelligence, le bon sens - la version humaine - peut nous dire que l'instabilité déjà causée par les inégalités économiques ne feront que s'aggraver si l'IA est utilisée pour rétrécir les fins. Une chose est sûre : nous n'obtiendrons pas de superintelligence si la Silicon Valley est envahie à 99 % par des fourches.

Brian Bergstein est collaborateur à la rédaction de Examen de la technologie MIT et l'éditeur de Néo.Life .

cacher