L'un des pères de l'IA s'inquiète pour son avenir

Photo de Yoshua Bengio Ecole polytechnique | Flickr

Yoshua Bengio est un grand maître de l'intelligence artificielle moderne.

Aux côtés de Geoff Hinton et Yann LeCun , Bengio est célèbre pour avoir défendu une technique connue sous le nom d'apprentissage en profondeur qui est passée ces dernières années d'une curiosité académique à l'une des technologies les plus puissantes de la planète.

L'apprentissage en profondeur consiste à fournir des données à de grands réseaux de neurones qui simulent grossièrement le cerveau humain, et il s'est avéré incroyablement puissant et efficace pour toutes sortes de tâches pratiques, de la reconnaissance vocale et de la classification des images au contrôle des voitures autonomes et à l'automatisation des décisions commerciales.

Bengio a résisté à l'attrait de toute grande entreprise de technologie. Alors que Hinton et LeCun ont rejoint Google et Facebook, respectivement, il reste professeur à temps plein à l'Université de Montréal. (Il a cependant cofondé Element AI en 2016, et il a construit une entreprise très prospère en aidant les grandes entreprises à explorer les applications commerciales de la recherche sur l'IA.)

Bengio a rencontré le rédacteur en chef de MIT Technology Review pour l'IA, Will Knight, lors d'un événement du MIT récemment.

Que pensez-vous de l'idée qu'il y a une course à l'IA entre différents pays ?

Je n'aime pas ça. Je ne pense pas que ce soit la bonne façon de faire.

Nous pourrions collectivement participer à une course, mais en tant que scientifique et quelqu'un qui veut réfléchir au bien commun, je pense que nous ferions mieux de réfléchir à la fois à la façon de construire des machines plus intelligentes et de nous assurer que l'IA est utilisée pour le bien-être de autant de personnes que possible.

Existe-t-il des moyens de favoriser une plus grande collaboration entre les pays ?

Nous pourrions faire en sorte qu'il soit plus facile pour les gens des pays en développement de venir ici. C'est un gros problème en ce moment. En Europe, aux États-Unis ou au Canada, il est très difficile pour un chercheur africain d'obtenir un visa. C'est une loterie, et très souvent ils utiliseront n'importe quelle excuse pour refuser l'accès. C'est totalement injuste. C'est déjà dur pour eux de faire de la recherche avec peu de moyens, mais en plus s'ils ne peuvent pas avoir accès à la communauté, je trouve ça vraiment injuste. Pour contrer une partie de cela, nous allons organiser la conférence ICLR [une conférence majeure sur l'IA] en 2020 en Afrique.

L'inclusivité doit être plus qu'un mot que nous disons pour bien paraître. Le potentiel de l'IA pour être utile dans le monde en développement est encore plus grand. Ils ont besoin d'améliorer la technologie encore plus que nous, et ils ont des besoins différents.

Êtes-vous préoccupé par le fait que seules quelques entreprises d'IA, en Occident et peut-être en Chine, dominent le domaine de l'IA ?

Oui, c'est une autre raison pour laquelle nous avons besoin de plus de démocratie dans la recherche sur l'IA. C'est que la recherche sur l'IA en elle-même aura tendance à conduire à des concentrations de pouvoir, d'argent et de chercheurs. Les meilleurs étudiants veulent aller dans les meilleures entreprises. Ils ont beaucoup plus d'argent, ils ont beaucoup plus de données. Et ce n'est pas sain. Même dans une démocratie, il est dangereux d'avoir trop de pouvoir concentré entre quelques mains.

Il y a eu beaucoup de controverses sur les utilisations militaires de l'IA. Où en êtes-vous ?

Je m'oppose très fermement.

Même les utilisations non létales de l'IA ?

Eh bien, je ne veux pas empêcher cela. Je pense que nous devons rendre immoral d'avoir des robots tueurs. Nous devons changer la culture, et cela comprend la modification des lois et des traités. Cela peut aller loin.

Bien sûr, vous ne l'empêcherez jamais complètement, et les gens disent : Un pays voyou développera ces choses. Ma réponse est que premièrement, nous voulons qu'ils se sentent coupables de l'avoir fait, et deuxièmement, rien ne nous empêche de construire une technologie défensive. Il y a une grande différence entre les armes défensives qui tuent les drones et les armes offensives qui ciblent les humains. Les deux peuvent utiliser l'IA.

Les experts en intelligence artificielle ne devraient-ils pas travailler avec l'armée pour s'assurer que cela se produise ?

S'ils avaient les bonnes valeurs morales, très bien. Mais je ne fais pas entièrement confiance aux organisations militaires, car elles ont tendance à faire passer le devoir avant la morale. J'aimerais que ce soit différent.

Qu'est-ce qui vous enthousiasme le plus en termes de nouvelles recherches sur l'IA ?

Je pense que nous devons tenir compte des défis difficiles de l'IA et ne pas nous contenter d'avancées progressives à court terme. Je ne dis pas que je veux oublier l'apprentissage en profondeur. Au contraire, je veux construire dessus. Mais nous devons être capables de l'étendre pour faire des choses comme le raisonnement, l'apprentissage de la causalité et l'exploration du monde afin d'apprendre et d'acquérir des informations.

Si nous voulons vraiment approcher l'IA au niveau humain, c'est un autre jeu de balle. Nous avons besoin d'investissements à long terme, et je pense que le milieu universitaire est le meilleur endroit pour porter ce flambeau.

Vous mentionnez la causalité - en d'autres termes, saisir non seulement les modèles de données, mais Pourquoi quelque chose se passe. Pourquoi est-ce important et pourquoi est-ce si difficile ?

Si vous avez un bon modèle causal du monde avec lequel vous traitez, vous pouvez généraliser même dans des situations peu familières. C'est crucial. Nous, humains, sommes capables de nous projeter dans des situations très différentes de notre quotidien. Les machines ne le sont pas, car elles n'ont pas ces modèles de causalité.

Nous pouvons les fabriquer à la main, mais cela ne suffit pas. Nous avons besoin de machines capables de découvrir des modèles de causalité. Dans une certaine mesure, ce ne sera jamais parfait. Nous n'avons pas de modèle causal parfait de la réalité; c'est pourquoi nous faisons beaucoup d'erreurs. Mais nous sommes beaucoup mieux lotis pour le faire que les autres animaux.

À l'heure actuelle, nous n'avons pas vraiment de bons algorithmes pour cela, mais je pense que si suffisamment de personnes y travaillent et le considèrent comme important, nous ferons des progrès.

cacher