211service.com
Les machines vont-elles nous éliminer ?
Les gens qui craignent que nous soyons sur la bonne voie pour inventer des machines dangereusement intelligentes se méprennent sur l'état de l'informatique. 29 janvier 2016
Yoshua Bengio dirige l'un des groupes de recherche les plus importants au monde qui développe une puissante technique d'IA connue sous le nom d'apprentissage en profondeur. Les capacités surprenantes que l'apprentissage en profondeur a données aux ordinateurs ces dernières années, de la reconnaissance vocale au niveau humain et de la classification des images aux compétences conversationnelles de base, ont suscité des avertissements sur les progrès réalisés par l'IA pour égaler, voire dépasser, l'intelligence humaine. Des personnalités éminentes telles que Stephen Hawking et Elon Musk ont même averti que l'intelligence artificielle pourrait constituer une menace existentielle pour l'humanité. Musk et d'autres investissent des millions de dollars dans la recherche des dangers potentiels de l'IA, ainsi que des solutions possibles. Mais les déclarations les plus graves semblent exagérées pour de nombreuses personnes qui développent réellement la technologie. Bengio, professeur d'informatique à l'Université de Montréal, a mis les choses en perspective dans une entrevue avec Examen de la technologie MIT Will Knight, rédacteur en chef pour l'IA et la robotique.
Doit-on s'inquiéter de la rapidité avec laquelle l'intelligence artificielle progresse ?
Cette histoire faisait partie de notre numéro de mars 2016
- Voir la suite du problème
- S'abonner
Il y a des gens qui surestiment grossièrement les progrès qui ont été réalisés. Il y a de nombreuses années de petits progrès derrière beaucoup de ces choses, y compris des choses banales comme plus de données et de puissance informatique. Le battage médiatique n'est pas de savoir si ce que nous faisons est utile ou non, c'est le cas. Mais les gens sous-estiment à quel point il reste de la science à faire. Et il est difficile de séparer le battage médiatique de la réalité parce que nous voyons ces grandes choses et aussi, à l'œil nu, elles ont l'air magiques.
Y a-t-il un risque que les chercheurs en intelligence artificielle libèrent accidentellement le démon, comme Musk l'a dit ?
Ce n'est pas comme si quelqu'un avait soudainement trouvé une recette magique. Les choses sont beaucoup plus compliquées que la simple histoire que certains voudraient raconter. Les journalistes aimeraient parfois raconter l'histoire que quelqu'un dans leur garage aura cette idée incroyable, puis nous avons une percée et avons l'IA. De même, les entreprises veulent raconter une jolie petite histoire : Oh, nous avons cette technologie révolutionnaire qui va changer le monde : l'IA est presque là, et nous sommes l'entreprise qui va la livrer. Ce n'est pas du tout comme ça que ça marche.
Il nous manque quelque chose de gros. Nous avons fait des progrès assez rapides, mais ce n'est toujours pas au niveau où nous dirions que la machine comprend. Nous en sommes encore loin.
Qu'en est-il de l'idée, au cœur de ces préoccupations, que l'IA pourrait d'une manière ou d'une autre commencer à s'améliorer et ensuite devenir difficile à contrôler ?
Ce n'est pas ainsi que l'IA est construite de nos jours. L'apprentissage automatique signifie que vous avez un processus laborieux et lent d'acquisition d'informations à travers des millions d'exemples. Une machine s'améliore, oui, mais très, très lentement et de manière très spécialisée. Et le genre d'algorithmes avec lesquels nous jouons ne ressemble pas du tout à de petits virus qui s'auto-programment. Ce n'est pas ce que nous faisons.
Quels sont certains des gros problèmes non résolus avec l'IA ?
L'apprentissage non supervisé est vraiment très important. À l'heure actuelle, la façon dont nous enseignons aux machines à être intelligentes est que nous devons dire à l'ordinateur ce qu'est une image, même au niveau du pixel. Pour la conduite autonome, les humains étiquettent un grand nombre d'images de voitures pour montrer quelles parties sont des piétons ou des routes. Ce n'est pas du tout comme ça que les humains apprennent, et ce n'est pas comme ça que les animaux apprennent. Il nous manque quelque chose de gros. C'est l'une des principales choses que nous faisons dans mon laboratoire, mais il n'y a pas d'applications à court terme - cela ne sera probablement pas utile pour créer un produit demain.
Un autre grand défi est la compréhension du langage naturel. Nous avons fait des progrès assez rapides ces dernières années, c'est donc très encourageant. Mais ce n'est toujours pas au niveau où nous dirions que la machine comprend. Ce serait à ce moment-là que nous pourrions lire un paragraphe et ensuite poser n'importe quelle question à ce sujet, et la machine répondrait essentiellement de manière raisonnable, comme le ferait un humain. Nous en sommes encore loin.
Quelles approches au-delà de l'apprentissage en profondeur seront nécessaires pour créer une véritable intelligence artificielle ?
Les efforts traditionnels, y compris le raisonnement et la logique, nous devons marier ces choses avec un apprentissage en profondeur afin de passer à l'IA. Je suis l'une des rares personnes à penser que les personnes en apprentissage automatique, et en particulier les personnes en apprentissage profond, devraient accorder plus d'attention aux neurosciences. Les cerveaux fonctionnent, et nous ne savons toujours pas pourquoi à bien des égards. L'amélioration de cette compréhension a un grand potentiel pour aider la recherche en IA.
Et je pense que les neuroscientifiques gagneraient beaucoup à garder une trace de ce que nous faisons et à essayer de faire correspondre ce qu'ils observent du cerveau avec les types de concepts que nous développons dans l'apprentissage automatique.
Avez-vous déjà pensé que vous deviez expliquer aux gens que l'IA n'est pas sur le point de conquérir le monde ? Ça doit être bizarre.
C'est certainement une préoccupation nouvelle. Pendant tant d'années, l'IA a été une déception. En tant que chercheurs, nous nous battons pour rendre la machine un peu plus intelligente, mais ils sont toujours aussi stupides. J'avais l'habitude de penser que nous ne devrions pas appeler le domaine intelligence artificielle mais stupidité artificielle. Vraiment, nos machines sont stupides, et nous essayons juste de les rendre moins stupides.
Maintenant, à cause de ces progrès que les gens peuvent voir avec les démos, maintenant nous pouvons dire, Oh, ça alors, ça peut vraiment dire des choses en anglais, ça peut comprendre le contenu d'une image. Eh bien, maintenant nous connectons ces choses avec toute la science-fiction que nous avons vue et c'est comme, Oh, j'ai peur !
D'accord, mais il est sûrement encore important de penser maintenant aux conséquences éventuelles de l'IA.
Absolument. Nous devrions parler de ces choses. Ce qui m'inquiète le plus, dans un avenir prévisible, ce n'est pas que les ordinateurs prennent le contrôle du monde. Je suis plus préoccupé par l'utilisation abusive de l'IA. Des choses comme les mauvaises utilisations militaires, la manipulation des gens par le biais de publicités vraiment intelligentes ; aussi, l'impact social, comme beaucoup de gens qui perdent leur emploi. La société doit se rassembler et trouver une réponse collective, et ne pas laisser la loi de la jungle régler les choses.