211service.com
Pourquoi l'IA est une menace pour la démocratie et ce que nous pouvons faire pour l'arrêter
Amy Webb, futuriste et professeur à la NYU, parle d'une catastrophe imminente liée à l'intelligence artificielle et pourquoi il y a encore de l'espoir qu'elle puisse être évitée. 26 février 2019
Amy Webb , futuriste et professeur à NYU Elena Seibert
Amy Webb, futuriste, professeur à NYU et auteur primé, a passé une grande partie de la dernière décennie à rechercher, discuter et rencontrer des personnes et des organisations sur l'intelligence artificielle. Nous avons atteint un paroxysme dans tout ce qui concerne l'IA, dit-elle. Il est maintenant temps de prendre du recul pour voir où cela va.
C'est la tâche de son nouveau livre, The Big Nine : comment les titans de la technologie et leurs machines à penser pourraient déformer l'humanité , où elle prend une vue d'ensemble des tendances qui, prévient-elle, ont mis le développement de la technologie sur une voie dangereuse. Aux États-Unis, Google, Microsoft, Amazon, Facebook, IBM et Apple (le G-MAFIA) sont paralysés par les demandes incessantes à court terme d'un marché capitaliste, ce qui rend impossible une planification réfléchie à long terme de l'IA. En Chine, Tencent, Alibaba et Baidu consolident et exploitent d'énormes quantités de données pour alimenter les ambitions autoritaires du gouvernement.
Si nous ne changeons pas cette trajectoire, soutient Webb, nous pourrions nous diriger droit vers la catastrophe. Mais il est encore temps d'agir et chacun a un rôle à jouer. MIT Technology Review s'est assis avec elle pour lui expliquer pourquoi elle s'inquiète et ce qu'elle pense que nous pouvons faire à ce sujet.
Les questions et réponses suivantes ont été condensées et modifiées pour plus de clarté.
Vous mentionnez que nous assistons actuellement à une convergence de tendances technologiques, politiques et économiques inquiétantes. Pouvez-vous nous en dire plus sur les tendances technologiques ?
Lorsque vous parlez à un chercheur travaillant dans le domaine, il vous dira qu'il va falloir beaucoup de temps avant que nous voyions bon nombre des promesses qui ont été faites à propos de l'IA : des choses comme l'automatisation complète des véhicules, la reconnaissance absolue ou intelligence générale artificielle - AGI - systèmes capables de cognition et de pensée plus humaine.
De mon point de vue, regarder à l'horizon le jour où nous avons une sorte de machine à marcher, à parler ou une machine avec une voix désincarnée prenant des décisions autonomes, passe un peu à côté de l'essentiel. Nous constatons déjà des milliards de minuscules progrès qui auront un effet cumulatif au fil du temps et conduiront à des systèmes capables de prendre de manière autonome de nombreuses décisions à la fois.
L'équipe DeepMind, par exemple, a travaillé dur pour apprendre aux machines à battre les humains en jouant à des jeux. Ils ont fait un bond en avant dans des domaines tels que l'apprentissage par renforcement hiérarchique et l'apprentissage multitâche. La dernière version de son algorithme AlphaGo, AlphaZero, est capable d'apprendre à jouer à trois jeux à la fois sans être humain dans la boucle. C'est un saut assez important. Il y a aussi le tout nouveau domaine des réseaux antagonistes génératifs, où avec un corpus d'images de taille décente, vous pouvez désormais générer des visages humains qui semblaient très, très réalistes.
Ces avancées ne sont pas aussi sexy ou aussi excitantes que ce qu'on nous a dit à propos d'AGI. Mais si vous êtes capable de prendre la vue à 40 000 pieds, vous pouvez voir que nous nous dirigeons vers une situation dans laquelle les systèmes feront des choix pour nous. Et nous devons nous arrêter et nous demander ce qui se passe lorsque ces systèmes mettent de côté la stratégie humaine au profit de quelque chose qui nous est totalement inconnu.
Qu'en est-il des tendances politiques et économiques ? Pouvez-vous décrire ceux qui vous préoccupent le plus ?
Aux États-Unis, la libre circulation des idées peut se répandre sans encombre. C'est ainsi que la Silicon Valley a été fondée. Il a engendré à la fois la concurrence et l'innovation, c'est ainsi que nous en sommes arrivés là où nous en sommes aujourd'hui avec l'IA parmi d'autres types de technologies.
The Big Nine : comment les titans de la technologie et leurs machines à penser pourraient déformer l'humanité par Amy Webb
Cependant, aux États-Unis, nous souffrons également d'un tragique manque de prévoyance. Plutôt que de créer une grande stratégie pour l'IA ou pour notre avenir à long terme, le gouvernement fédéral a supprimé le financement de la recherche scientifique et technologique. L'argent doit donc provenir du secteur privé. Mais les investisseurs s'attendent également à une sorte de rendement. C'est un problème. Vous ne pouvez pas programmer vos percées en R&D lorsque vous travaillez sur des technologies et des recherches fondamentales. Ce serait formidable si les grandes entreprises de technologie avaient le luxe de travailler très dur sans avoir à organiser une conférence annuelle pour montrer leur dernier et plus grand truc. Au lieu de cela, nous avons maintenant d'innombrables exemples de mauvaises décisions prises par quelqu'un de la G-MAFIA, probablement parce qu'il travaillait vite. Nous commençons à voir les effets négatifs de la tension entre faire de la recherche dans le meilleur intérêt de l'humanité et rendre les investisseurs heureux.
Maintenant, ce serait déjà assez mauvais comme ça, non ? Mais tout cela se produit en même temps qu'il y a une énorme quantité de pouvoir qui se consolide en Chine. La Chine dispose d'un fonds souverain consacré à la recherche fondamentale fondamentale en IA. Ils jettent d'énormes sommes d'argent sur l'IA. Et ils ont une idée totalement différente de celle des États-Unis en matière de confidentialité et de données. Cela signifie qu'ils ont beaucoup plus de données qui peuvent être extraites et raffinées. Avec une autorité centrale, il est très facile pour le gouvernement de tester et de créer des services d'IA qui intègrent les données de 1,3 milliard de personnes. Et c'est juste dans leur propre pays.
Ensuite, ils ont l'initiative Belt and Road, qui ressemble à un programme d'infrastructure traditionnel mais qui est en partie aussi numérique. Il ne s'agit pas seulement de construire des routes et des ponts; il s'agit également de construire des réseaux 5G et de poser de la fibre, et d'extraire et de raffiner des données à l'étranger. Le déploiement de ces technologies est un risque pour les personnes qui se soucient de choses comme la liberté d'expression et les idéaux démocratiques occidentaux.
Pourquoi devrions-nous lutter pour les idéaux démocratiques occidentaux ?
C'est une excellente question. J'ai vécu en Chine, au Japon et, bien sûr, aux États-Unis. Et vous pourriez regarder l'état de notre pays en ce moment et ce qui se passe en Chine et vous demander, est-ce vraiment la pire chose ? Soit dit en passant, le système chinois de notation du crédit social semble bizarre et affreux pour les Américains, mais ce que beaucoup de gens ne réalisent pas, c'est que l'auto-déclaration et le comportement de surveillance dans les villages et les communautés font partie de la culture chinoise depuis toujours. Le score de crédit social automatise en quelque sorte cela. Alors oui, c'est une excellente question.
Je suppose que ce que je dirais, c'est que si je devais regarder la version idéalisée du communisme chinois et la version idéalisée de la démocratie occidentale, je choisirais la démocratie occidentale parce que je pense qu'il y a une meilleure opportunité pour la libre circulation des idées et pour le quotidien les gens à réussir. Je pense que donner aux gens des incitations à l'accomplissement individuel et personnel est un excellent moyen d'élever une société, nous aide à atteindre notre potentiel individuel.
Avec la direction que prend le monde avec l'IA aujourd'hui, est-ce une comparaison juste ? Devrions-nous comparer les versions idéalisées du communisme chinois avec la démocratie occidentale, ou les pires versions des deux ?
C'est une excellente question, car vous pourriez affirmer que des éléments de l'écosystème de l'IA ont déjà un impact vraiment négatif sur nos idéaux démocratiques occidentaux. Évidemment, tout ce qui s'est passé avec Facebook sert d'exemple. Mais regardez aussi ce qui se passe avec la communauté anti-vaxxer. Ils diffusent des informations totalement incorrectes sur les vaccins et la science fondamentale. Nos traditions américaines diront que la liberté d'expression, les plates-formes sont des plates-formes, nous devons laisser les gens s'exprimer. Eh bien, le défi avec cela est que les algorithmes font des choix sur le contenu éditorial qui conduisent les gens à prendre de très mauvaises décisions et à rendre les enfants malades en conséquence.
Le problème est que notre technologie est devenue de plus en plus sophistiquée, mais notre réflexion sur ce qu'est la liberté d'expression et à quoi ressemble une économie de marché libre n'est pas devenue aussi sophistiquée. Nous avons tendance à recourir à des interprétations très basiques : la liberté d'expression signifie que toute parole est libre à moins qu'elle ne se heurte à la loi sur la diffamation, et c'est la fin de l'histoire. Ce n'est pas la fin de l'histoire. Nous devons commencer à avoir une conversation plus sophistiquée et intelligente sur nos lois actuelles, notre technologie émergente et comment nous pouvons faire en sorte que ces deux se rencontrent au milieu.
En d'autres termes, vous avez confiance que nous évoluerons d'où nous sommes maintenant vers une version plus idéalisée de la démocratie occidentale. Et vous préféreriez de loin cela au communisme chinois idéalisé.
Ouais, j'ai la foi que c'est possible. Ma grande inquiétude est que tout le monde attend, qu'on traîne les pieds et qu'il va falloir une vraie catastrophe pour que les gens agissent, comme si l'endroit où nous sommes arrivés n'était pas catastrophique. Mais le fait que la rougeole soit de retour dans l'état de Washington pour moi est un résultat catastrophique. Il en va de même pour ce qui s'est passé à la suite des élections. Indépendamment de quel côté du spectre politique vous vous situez, je ne peux pas imaginer que quiconque aujourd'hui pense que le climat politique actuel est bon pour notre avenir.
Je crois donc absolument qu'il y a une voie à suivre. Mais nous devons nous unir et combler le fossé entre la Silicon Valley et DC afin que nous puissions tous diriger le bateau dans la même direction.
Que recommandez-vous au gouvernement, aux entreprises, aux universités et aux particuliers ?
La voie de développement de l'IA est un problème, et chacun de nous a un enjeu. Toi, moi, mon père, mon voisin d'à côté, le gars du Starbucks que je croise en ce moment. Alors, que devraient faire les gens ordinaires ? Soyez plus conscient de qui utilise vos données et comment. Prenez quelques minutes pour lire des travaux écrits par des personnes intelligentes et passez quelques minutes pour comprendre de quoi nous parlons vraiment. Avant de renoncer à votre vie et de commencer à partager des photos de vos enfants, faites-le de manière éclairée. Si vous êtes d'accord avec ce que cela implique et ce que cela pourrait signifier plus tard, très bien, mais ayez au moins cette connaissance en premier.
Les entreprises et les investisseurs ne peuvent pas s'attendre à précipiter un produit encore et encore. Cela nous prépare à des problèmes plus tard. Ainsi, ils peuvent faire des choses comme renforcer leurs processus d'embauche, augmenter considérablement leurs efforts pour améliorer l'inclusivité et s'assurer que leur personnel est plus représentatif de ce à quoi ressemble le monde réel. Ils peuvent également mettre des freins. Tout investissement réalisé dans une entreprise ou un projet d'IA ou quoi que ce soit devrait également inclure un financement et du temps pour vérifier des éléments tels que les risques et les préjugés.
Les universités doivent créer un espace dans leurs programmes pour les diplômes hybrides. Ils devraient inciter les étudiants en informatique à étudier la littérature comparée, les religions du monde, la microéconomie, l'anthropologie culturelle et des cours similaires dans d'autres départements. Ils devraient défendre les programmes de double diplôme en informatique et relations internationales, théologie, sciences politiques, philosophie, santé publique, éducation, etc. L'éthique ne devrait pas être enseignée comme une classe autonome, quelque chose pour simplement cocher une liste. Les écoles doivent inciter même les professeurs titulaires à tisser des discussions compliquées sur les préjugés, les risques, la philosophie, la religion, le genre et l'éthique dans leurs cours.
L'une de mes principales recommandations est la formation de GAIA, ce que j'appelle l'Alliance mondiale pour l'augmentation du renseignement. À l'heure actuelle, les gens du monde entier ont des attitudes et des approches très différentes en ce qui concerne la collecte et le partage de données, ce qui peut et doit être automatisé, et à quoi pourrait ressembler un avenir avec des systèmes plus généralement intelligents. Je pense donc que nous devrions créer une sorte d'organisation centrale capable de développer des normes et des standards mondiaux, une sorte de garde-corps pour imprégner non seulement les idéaux américains ou chinois dans les systèmes d'IA, mais des visions du monde beaucoup plus représentatives de tout le monde.
Surtout, nous devons être prêts à y penser à bien plus long terme, pas seulement dans cinq ans. Nous devons arrêter de dire, Eh bien, nous ne pouvons pas prédire l'avenir, alors ne nous en soucions pas maintenant. C'est vrai, on ne peut pas prédire l'avenir. Mais nous pouvons certainement faire un meilleur travail de planification.
Une version abrégée de cette histoire a paru à l'origine dans notre newsletter AI The Algorithm. Pour le recevoir directement dans votre boîte de réception, inscrivez-vous ici gratuitement.