Andrew Ng : Oubliez la création d'une entreprise axée sur l'IA. Commencez par une mission.

Jérémy Portje

Andrew Ng a porté de nombreux chapeaux dans sa vie. Vous le connaissez peut-être en tant que fondateur de la L'équipe Google Brain ou l'ancien scientifique en chef de Baidu . Vous le connaissez peut-être aussi comme votre propre instructeur. Il a enseigné à d'innombrables étudiants, auditeurs curieux et chefs d'entreprise les principes de l'apprentissage automatique grâce à ses cours en ligne très populaires.

Maintenant, dans sa dernière entreprise, IA d'atterrissage , qu'il a lancé en 2017, il explore comment les entreprises sans ensembles de données géants sur lesquels s'appuyer peuvent encore participer à la révolution de l'IA.

Le 23 mars, Ng a rejoint l'événement virtuel EmTech Digital de MIT Technology Review, notre événement annuel sur l'IA, pour partager les leçons qu'il a apprises.

Cette interview a été condensée et légèrement modifiée pour plus de clarté.

MIT Technology Review : Je suis sûr que les gens vous demandent souvent, comment puis-je créer une entreprise axée sur l'IA ? Qu'est-ce que tu réponds d'habitude à ça ?

Andrew Ng : J'ai l'habitude de dire, ne fais pas ça. Si je vais voir une équipe et que je dis : Hé, tout le monde, soyez IA d'abord, cela a tendance à concentrer l'équipe sur la technologie, ce qui peut être formidable pour un laboratoire de recherche. Mais en ce qui concerne la façon dont j'exécute l'entreprise, j'ai tendance à être dirigé par le client ou par la mission, presque jamais par la technologie.

Vous avez maintenant cette nouvelle entreprise appelée Landing AI. Pouvez-vous nous en dire un peu plus sur ce que c'est et pourquoi vous avez choisi de travailler dessus ?

Après avoir dirigé les équipes d'IA chez Google et Baidu, j'ai réalisé que l'IA avait transformé l'Internet grand public de logiciels, comme la recherche sur le Web et la publicité en ligne. Mais je voulais étendre l'IA à toutes les autres industries, qui représentent une part encore plus importante de l'économie. Donc, après avoir examiné de nombreuses industries différentes, j'ai décidé de me concentrer sur la fabrication. Je pense que plusieurs industries sont prêtes pour l'IA, mais l'un des modèles pour une industrie plus prête pour l'IA est s'il a subi une transformation numérique, il y a donc des données. Cela crée une opportunité pour les équipes d'IA d'utiliser les données pour créer de la valeur.

Ainsi, l'un des projets qui m'a enthousiasmé récemment est l'inspection visuelle de la fabrication. Pouvez-vous regarder une photo d'un smartphone sortant de la chaîne de fabrication et voir s'il y a un défaut ? Ou regardez un composant automobile et voyez s'il y a une bosse dedans ? Une énorme différence réside dans les logiciels Internet grand public, vous avez peut-être un milliard d'utilisateurs et une énorme quantité de données. Mais dans la fabrication, aucune usine n'a fabriqué un milliard voire un million de smartphones rayés. Dieu merci pour cela. Le défi est donc de savoir comment faire fonctionner une IA avec une centaine d'images ? Il s'avère souvent que vous le pouvez. En fait, j'ai été souvent surpris de voir tout ce que vous pouvez faire avec des quantités de données, même modestes. Et donc, même si tout le battage médiatique, l'excitation et les relations publiques autour de l'IA sont sur les ensembles de données géants, j'ai l'impression qu'il y a beaucoup de place dont nous avons besoin pour nous développer également pour ouvrir ces autres applications où les défis sont assez différents.

Comment tu fais ça?

Une erreur très fréquente que commettent les PDG et les DSI : ils me disent quelque chose comme Hé, Andrew, nous n'avons pas beaucoup de données, mes données sont un gâchis. Donnez-moi donc deux ans pour construire une excellente infrastructure informatique. Ensuite, nous aurons toutes ces excellentes données sur lesquelles construire l'IA. Je dis toujours, c'est une erreur. Ne faites pas ça. Premièrement, je ne pense pas qu'aucune entreprise sur la planète aujourd'hui - peut-être même pas les géants de la technologie - ne pense que ses données sont complètement propres et parfaites. C'est un voyage. Passer deux ou trois ans à construire une belle infrastructure de données signifie que vous manquez de retour de l'équipe d'IA pour vous aider à prioriser l'infrastructure informatique à construire.

Par exemple, si vous avez beaucoup d'utilisateurs, devriez-vous leur poser en priorité des questions dans un sondage pour obtenir un peu plus de données ? Ou dans une usine, devriez-vous donner la priorité à la mise à niveau du capteur de quelque chose qui enregistre les vibrations 10 fois par seconde à peut-être 100 fois par seconde ? Il s'agit souvent de commencer à faire un projet d'IA avec les données dont vous disposez déjà, ce qui permet à une équipe d'IA de vous donner les commentaires pour vous aider à hiérarchiser les données supplémentaires à collecter.

Dans les industries où nous n'avons tout simplement pas l'échelle des logiciels Internet grand public, j'ai l'impression que nous devons changer d'état d'esprit de grand données à bon Les données. Si vous avez un million d'images, allez-y, utilisez-le, c'est génial. Mais il y a beaucoup de problèmes qui peuvent utiliser des ensembles de données beaucoup plus petits qui sont proprement étiquetés et soigneusement conservés.

Pouvez-vous donner un exemple? Qu'entendez-vous par bonnes données ?

Permettez-moi d'abord de donner un exemple tiré de la reconnaissance vocale. Lorsque je travaillais avec la recherche vocale, vous receviez des clips audio où vous entendiez quelqu'un dire, euh, la météo d'aujourd'hui. La question est, quelle est la bonne transcription pour ce clip audio ? Est-ce Um (virgule) la météo d'aujourd'hui, ou est-ce Um (point, point, point) la météo d'aujourd'hui, ou est-ce que Um est quelque chose que nous ne transcrivons tout simplement pas ? Il s'avère que n'importe lequel d'entre eux est correct, mais ce qui ne l'est pas, c'est si différents transcripteurs utilisent chacune des trois conventions d'étiquetage. Ensuite, vos données sont bruyantes et cela nuit au système de reconnaissance vocale. Maintenant, lorsque vous avez des millions ou un milliard d'utilisateurs, vous pouvez avoir ces données bruyantes et simplement en faire la moyenne - l'algorithme d'apprentissage fera l'affaire. Mais si vous êtes dans un environnement où vous avez un ensemble de données plus petit, disons une centaine d'exemples, alors ce type de données bruitées a un impact énorme sur les performances.

Autre exemple dans le secteur manufacturier : nous avons beaucoup travaillé sur l'inspection de l'acier. Si vous conduisez une voiture, le côté de votre voiture était autrefois constitué d'une tôle d'acier. Parfois, il y a de petites rides dans l'acier, ou de petites bosses ou des taches dessus. Vous pouvez donc utiliser une caméra et une vision par ordinateur pour voir s'il y a des défauts ou non. Mais différents étiqueteurs étiquetteront les données différemment. Certains mettront une boîte englobante géante autour de toute la région. Certains mettront de petites boîtes englobantes autour des petites particules. Lorsque vous disposez d'un ensemble de données modeste, s'assurer que les différents inspecteurs de la qualité étiquettent les données de manière cohérente, cela s'avère être l'une des choses les plus importantes.

Pour de nombreux projets d'IA, le modèle open source que vous téléchargez sur GitHub, le réseau de neurones que vous pouvez obtenir à partir de la littérature, est assez bon. Pas pour tous les problèmes, mais les problèmes principaux. Je suis donc allé voir bon nombre de mes équipes et j'ai dit : Hé, tout le monde, le réseau de neurones est assez bon. Ne plaisantons plus avec le code. La seule chose que vous allez faire maintenant est de créer des processus pour améliorer la qualité des données. Et il s'avère que cela se traduit souvent par des améliorations plus rapides des performances de l'algorithme.

À quelle taille de données pensez-vous lorsque vous parlez d'ensembles de données plus petits ? Parlez-vous d'une centaine d'exemples? Dix exemples ?

L'apprentissage automatique est si diversifié qu'il est devenu très difficile de donner des réponses uniques. J'ai travaillé sur des problèmes où j'avais environ 200 à 300 millions d'images. J'ai également travaillé sur des problèmes où j'avais 10 images, et tout le reste. Quand je regarde les applications de fabrication, je pense que quelque chose comme des dizaines ou peut-être une centaine d'images pour une classe de défauts n'est pas inhabituel, mais il y a une très grande variance même au sein de l'usine.

Je trouve que les pratiques d'IA changent lorsque la taille des ensembles de formation descend, disons, 10 000 exemples, parce que c'est en quelque sorte le seuil où l'ingénieur peut essentiellement examiner chaque exemple et le concevoir lui-même, puis prendre une décision.

Récemment, je discutais avec un très bon ingénieur dans l'une des grandes entreprises de technologie. Et j'ai demandé, Hey, que faites-vous si les étiquettes sont incohérentes ? Et il a dit, Eh bien, nous avons cette équipe de plusieurs centaines de personnes à l'étranger qui s'occupe de l'étiquetage. Je vais donc écrire les instructions d'étiquetage, demander à trois personnes d'étiqueter chaque image, puis je prendrai une moyenne. Et j'ai dit, oui, c'est la bonne chose à faire quand vous avez un ensemble de données géant. Mais lorsque je travaille avec une équipe plus petite et que les étiquettes sont incohérentes, je recherche simplement les deux personnes qui ne sont pas d'accord, je les réunis toutes les deux en appel Zoom et je les fais se parler pour essayer de parvenir à une résolution.

Je veux attirer notre attention maintenant pour parler de vos réflexions sur l'industrie générale de l'IA. L'algorithme est notre newsletter sur l'IA, et j'ai donné à nos lecteurs la possibilité de vous soumettre quelques questions à l'avance. Un lecteur demande : le développement de l'IA semble s'être principalement bifurqué vers la recherche universitaire ou vers des programmes à grande échelle et gourmands en ressources pour les grandes entreprises comme OpenAI et DeepMind. Cela ne laisse pas vraiment beaucoup de place aux petites startups pour contribuer. Selon vous, quels sont les problèmes pratiques sur lesquels les petites entreprises peuvent vraiment se concentrer pour favoriser une véritable adoption commerciale de l'IA ?

Je pense qu'une grande partie de l'attention des médias a tendance à se porter sur les grandes entreprises et parfois sur les grandes institutions universitaires. Mais si vous assistez à des conférences universitaires, de nombreux travaux sont effectués par des groupes de recherche et des laboratoires de recherche plus petits. Et lorsque je parle avec différentes personnes dans différentes entreprises et industries, j'ai l'impression qu'il y a tellement d'applications commerciales qu'elles pourraient utiliser l'IA pour s'attaquer. Je vais généralement voir des chefs d'entreprise et je leur demande : quels sont vos plus gros problèmes commerciaux ? Quelles sont les choses qui vous inquiètent le plus ? afin de mieux comprendre les objectifs de l'entreprise, puis de réfléchir à l'existence ou non d'une solution d'IA. Et parfois il n'y en a pas, et c'est très bien.

Peut-être que je mentionnerai quelques lacunes que je trouve passionnantes. Je pense qu'aujourd'hui la construction de systèmes d'IA est encore très manuelle. Vous avez quelques brillants ingénieurs en apprentissage automatique et scientifiques des données qui font des choses dans un ordinateur, puis poussent les choses en production. Il y a beaucoup d'étapes manuelles dans le processus. Je suis donc enthousiasmé par les opérations ML [machine learning operations] en tant que discipline émergente pour aider à rendre le processus de construction et de déploiement de systèmes d'IA plus systématique.

De plus, si vous examinez un grand nombre de problèmes commerciaux typiques - toutes les fonctions, du marketing au talent -, il y a beaucoup de place pour l'automatisation et l'amélioration de l'efficacité.

J'espère également que la communauté de l'IA pourra se pencher sur les plus gros problèmes sociaux - voir ce que nous pouvons faire pour lutter contre le changement climatique, le sans-abrisme ou la pauvreté. En plus des problèmes commerciaux parfois très précieux, nous devrions également travailler sur les problèmes sociaux les plus importants.

Comment procédez-vous réellement pour identifier s'il existe une opportunité de poursuivre quelque chose avec l'apprentissage automatique pour votre entreprise ?

Je vais essayer d'en apprendre un peu plus sur l'entreprise moi-même et d'aider les chefs d'entreprise à en apprendre un peu plus sur l'IA. Ensuite, nous réfléchissons généralement à un ensemble de projets, et pour chacune des idées, je ferai à la fois une diligence technique et une diligence commerciale. Nous examinerons : Avez-vous suffisamment de données ? Quelle est la précision ? Y a-t-il une longue traîne lors du déploiement en production ? Comment remplir les données et boucler la boucle pour un apprentissage continu ? Donc, assurez-vous que le problème est techniquement réalisable. Et puis la diligence commerciale : nous nous assurons que cela atteindra le retour sur investissement que nous espérons. Après ce processus, vous avez l'habituel, comme estimer les ressources, les jalons, puis, espérons-le, passer à l'exécution.

Une autre suggestion : il est plus important de commencer rapidement, et il est normal de commencer petit. Ma première application commerciale significative chez Google a été la reconnaissance vocale, pas la recherche sur le Web ni la publicité. Mais en aidant l'équipe vocale de Google à rendre la reconnaissance vocale plus précise, cela a donné à l'équipe Brain la crédibilité et les moyens de rechercher des partenariats de plus en plus importants. Google Maps était donc le deuxième grand partenariat où nous avons utilisé la vision par ordinateur, pour lire les numéros de maison afin de géolocaliser les maisons sur Google Maps. Et ce n'est qu'après ces deux premiers projets réussis que j'ai eu une conversation plus sérieuse avec l'équipe publicitaire. Je pense donc que je vois plus d'entreprises échouer en commençant trop gros que d'échouer en commençant trop petit. C'est bien de faire un petit projet pour démarrer en tant qu'organisation pour apprendre ce que c'est que d'utiliser l'IA, puis continuer à construire de plus grands succès.

Quelle est la chose que notre public devrait commencer à faire demain pour mettre en œuvre l'IA dans ses entreprises ?

Lancez-vous. L'IA provoque un changement dans la dynamique de nombreuses industries. Donc, si votre entreprise ne fait pas déjà des investissements assez agressifs et intelligents, c'est le bon moment.

cacher