Non, les experts ne pensent pas que l'IA super intelligente est une menace pour l'humanité

Si vous croyez tout ce que vous lisez, vous êtes probablement très inquiet à l'idée d'une IA tueuse super intelligente. le Gardien , un journal britannique, averti récemment que nous sommes comme des enfants jouant avec une bombe, et un récent Newsweek titre se lit, L'intelligence artificielle arrive, et elle pourrait nous anéantir.

De nombreux titres de ce type, alimentés par les commentaires d'Elon Musk et de Stephen Hawking, sont fortement influencés par le travail d'un seul homme : le professeur Nick Bostrom, auteur du traité philosophique Superintelligence : chemins, dangers et stratégies .

Bostrom est un philosophe d'Oxford, mais l'évaluation quantitative des risques est du domaine de la science actuarielle. Il peut être surnommé le premier philosophe actuariel de premier plan au monde, bien que le terme semble un oxymore étant donné que la philosophie est une arène pour des arguments conceptuels et que l'évaluation des risques est un exercice statistique axé sur les données.

Alors que disent les données ? Bostrom regroupe les résultats de quatre enquêtes différentes auprès de groupes tels que les participants à une conférence intitulée Philosophie et théorie de l'IA, tenue en 2011 à Thessalonique, en Grèce, et les membres de l'Association grecque pour l'intelligence artificielle (il ne fournit pas les taux de réponse ni la formulation de questions, et il ne tient pas compte du recours aux données recueillies en Grèce).

Ses découvertes sont présentées comme des probabilités que l'IA au niveau humain soit atteinte d'ici un certain temps :

D'ici 2022 : 10 %.

D'ici 2040 : 50 %.

D'ici 2075 : 90 %.

Cet agrégat de quatre enquêtes est la principale source de données sur l'avènement de l'intelligence au niveau humain dans plus de 300 pages d'arguments philosophiques, de fables et de métaphores.

Pour obtenir une évaluation plus précise de l'opinion des principaux chercheurs dans le domaine, je me suis tourné vers les Fellows de l'American Association for Artificial Intelligence, un groupe de chercheurs reconnus pour avoir apporté des contributions importantes et soutenues au domaine.

Début mars 2016, AAAI a envoyé une enquête anonyme en mon nom, posant la question suivante à 193 boursiers :

Dans son livre, Nick Bostrom a défini la superintelligence comme 'un intellect beaucoup plus intelligent que les meilleurs cerveaux humains dans pratiquement tous les domaines, y compris la créativité scientifique, la sagesse générale et les compétences sociales'. Quand pensez-vous que nous atteindrons la superintelligence ?

Au cours de la semaine suivante environ, 80 boursiers ont répondu (un taux de réponse de 41 %), et leurs réponses sont résumées ci-dessous :

Essentiellement, selon 92,5 % des répondants, la superintelligence est au-delà de l'horizon prévisible. Cette interprétation est également étayée par des commentaires écrits partagés par les boursiers.

Même si l'enquête était anonyme, 44 boursiers ont choisi de s'identifier, dont Geoff Hinton (luminaire de l'apprentissage en profondeur), Ed Feigenbaum (Stanford, lauréat du prix Turing), Rodney Brooks (robotiste de premier plan) et Peter Norvig (Google).

Les répondants ont également partagé plusieurs commentaires, dont les suivants :

Bien, bien, bien plus de 25 ans. Des siècles très probablement. Mais pas jamais.

Nous sommes en concurrence avec des millions d'années d'évolution du cerveau humain. Nous pouvons écrire des programmes à but unique qui peuvent rivaliser avec les humains, et parfois exceller, mais le monde n'est pas soigneusement compartimenté en questions à problème unique.

Nick Bostrom est un alarmiste professionnel. Le rôle de son Institut est de trouver des menaces existentielles pour l'humanité. Il les voit partout. Je suis tenté de l'appeler le 'Donald Trump' de l'IA.

Les enquêtes ont, bien sûr, une valeur scientifique limitée. Ils sont notoirement sensibles à la formulation des questions, à la sélection des répondants, etc. Cependant, c'est la seule source de données vers laquelle Bostrom lui-même s'est tourné.

Une autre méthodologie consisterait à extrapoler de l'état actuel de l'IA vers l'avenir. Cependant, cela est difficile car nous n'avons pas de mesure quantitative de l'état actuel de l'intelligence au niveau humain. Nous avons atteint la superintelligence dans des jeux de société comme les échecs et le go (voir Google AI Masters Go a Decade Early than Expected ), et pourtant nos programmes n'ont pas réussi à obtenir un score supérieur à 60 % aux tests scientifiques de huitième année, comme l'ont montré les recherches de l'Institut Allen (voir The Le meilleur programme d'IA échoue toujours à un test scientifique de huitième année), ou plus de 48 % dans la désambiguïsation de phrases simples (voir Un test de Turing plus difficile expose la stupidité des chatbots).

Il existe de nombreuses préoccupations valables concernant l'IA, de son impact sur les emplois à ses utilisations dans les systèmes d'armes autonomes et même au risque potentiel de superintelligence. Cependant, les prédictions selon lesquelles la superintelligence est à l'horizon prévisible ne sont pas étayées par les données disponibles. De plus, les prédictions catastrophiques ne tiennent souvent pas compte des avantages potentiels de l'IA pour prévenir les erreurs médicales, réduire les accidents de voiture, etc.

Enfin, il est possible que les systèmes d'IA collaborent avec les gens pour créer une superintelligence symbiotique. Ce serait très différent du genre pernicieux et autonome envisagé par le professeur Bostrom.

Oren Etzioni est PDG de l'Allen Institute for Artificial Intelligence et professeur d'informatique à l'Université de Washington.

Mis à jour le 2 novembre 2016 :

Je suis ravi que les professeurs Dafoe & Russell, qui ont répondu à mon article ici , et je semble être d'accord sur trois questions essentielles. Premièrement, nous devrions nous abstenir d'attaques ad hominem. Ici, je dois présenter des excuses : je n'aurais pas dû citer le boursier AAAI anonyme qui a comparé le Dr Bostrom à Donald Trump. Je ne voulais pas prêter ma voix à cette comparaison; Je me suis sincèrement excusé auprès de Bostrom pour ce faux pas par e-mail, excuses qu'il a gracieusement acceptées. Deuxièmement, en tant que scientifiques, nous devons évaluer les déclarations sur le risque d'IA basée sur des données. C'était le point clé de mon bref article , et l'article offrait des données uniques sur ce sujet. Troisièmement, nous convenons également que les médias ont déformé les implications du travail de Bostrom - un sujet de préoccupation majeure qui a été apaisé dans une certaine mesure par le Rapport de la Maison Blanche sur l'IA . Bien sûr, nous ne sommes pas d'accord sur de nombreux détails et sur la complexité des arguments, mais le temps nous le dira.

cacher