211service.com
Comment l'informatique s'est transformée
Jeanette Wing pense qu'une IA fiable et un raisonnement causal peuvent aider la société à résoudre les problèmes du monde réel. Mais ce ne sera pas facile.
27 octobre 2021
Pierre Garritano
Il est temps que nous commencions à nous concentrer sur les données pour résoudre nos problèmes, déclare l'un des plus grands experts mondiaux en science des données.
En 2006, Jeannette Wing, alors directrice du département d'informatique de l'Université Carnegie Mellon, a publié un essai influent intitulé Pensée computationnelle, arguant que tout le monde bénéficierait de l'utilisation des outils conceptuels de l'informatique pour résoudre des problèmes dans tous les domaines de l'activité humaine.
Cette histoire faisait partie de notre numéro de novembre 2021
- Voir la suite du problème
- S'abonner
Wing elle-même n'a jamais eu l'intention d'étudier l'informatique. Au milieu des années 1970, elle entre au MIT pour poursuivre des études en génie électrique, inspirée par son père, professeur dans ce domaine. Lorsqu'elle a découvert son intérêt pour l'informatique, elle l'a appelé pour lui demander s'il s'agissait d'une mode passagère. Après tout, le terrain n'avait même pas de manuels. Il lui a assuré que non. Wing a changé de spécialité et n'a jamais regardé en arrière.
Anciennement vice-président d'entreprise de Microsoft Research et maintenant vice-président exécutif pour la recherche à l'Université de Columbia, Wing est un chef de file dans la promotion de la science des données dans plusieurs disciplines.
Anil Ananthaswamy a récemment interrogé Wing sur son programme ambitieux pour promouvoir une IA digne de confiance, l'un des 10 défis de recherche elle est identifiée dans sa tentative de rendre les systèmes d'IA plus justes et moins biaisés.
Q : Diriez-vous qu'il y a une transformation en cours dans la façon dont le calcul est effectué ?
R : Absolument. La loi de Moore nous a menés loin. Nous savions que nous allions atteindre le plafond de la loi de Moore, [donc] l'informatique parallèle a pris de l'importance. Mais le changement de phase était le cloud computing. Les systèmes de fichiers distribués d'origine étaient une sorte de bébé cloud computing, où vos fichiers n'étaient pas locaux sur votre machine ; ils étaient ailleurs sur le serveur. Le cloud computing prend cela et l'amplifie encore plus, là où les données ne sont pas près de chez vous ; le calcul n'est pas près de chez vous.
Le prochain changement concerne les données. Pendant très longtemps, nous nous sommes concentrés sur les cycles, rendant les choses plus rapides - les processeurs, les CPU, les GPU et davantage de serveurs parallèles. Nous avons ignoré la partie données. Maintenant, nous devons nous concentrer sur les données.
Q : C'est le domaine de la science des données. Comment le définiriez-vous? Quels sont les enjeux de l'utilisation des données ?
À: J'ai une définition très succincte. La science des données est l'étude de l'extraction de la valeur des données.
Vous ne pouvez pas simplement me donner un tas de données brutes et j'appuie sur un bouton et la valeur sort. Cela commence par la collecte, le traitement, le stockage, la gestion, l'analyse et la visualisation des données, puis l'interprétation des résultats. Je l'appelle le cycle de vie des données. Chaque étape de ce cycle représente beaucoup de travail.
Q : Lorsque vous utilisez des données volumineuses, des préoccupations surgissent souvent concernant la confidentialité, la sécurité, l'équité et les préjugés. Comment résoudre ces problèmes, en particulier en IA ?
À: J'ai ce nouveau programme de recherche dont je fais la promotion. J'appelle cela une IA digne de confiance, inspirée par les décennies de progrès que nous avons réalisés dans le domaine de l'informatique digne de confiance. Par fiabilité, nous entendons généralement la sécurité, la fiabilité, la disponibilité, la confidentialité et la convivialité. Au cours des deux dernières décennies, nous avons fait beaucoup de progrès. Nous avons des méthodes formelles qui peuvent assurer l'exactitude d'un morceau de code ; nous avons des protocoles de sécurité qui augmentent la sécurité d'un système particulier. Et nous avons certaines notions de vie privée qui sont formalisées.
Une IA digne de confiance fait monter les enchères de deux manières. Tout d'un coup, nous parlons de robustesse et d'équité - la robustesse signifie que si vous perturbez l'entrée, la sortie n'est pas très perturbée. Et nous parlons d'interprétabilité. Ce sont des choses dont nous n'avions jamais parlé lorsque nous parlions d'informatique.
[En outre,] les systèmes d'IA sont de nature probabiliste. Les systèmes informatiques du passé sont essentiellement des machines déterministes : ils sont allumés ou éteints, vrais ou faux, oui ou non, 0 ou un . Les sorties de nos systèmes d'IA sont essentiellement des probabilités. Si je vous dis que votre radiographie indique que vous avez un cancer, c'est avec, disons, 0,75 probabilité que la petite tache blanche que j'ai vue soit maligne.
Alors maintenant, nous devons vivre dans ce monde de probabilités. D'un point de vue mathématique, il utilise une logique probabiliste et apporte beaucoup de statistiques et de raisonnement stochastique, etc. En tant qu'informaticien, vous n'êtes pas formé pour penser de cette façon. Les systèmes d'IA ont donc vraiment compliqué notre raisonnement formel sur ces systèmes.
Q : L'IA digne de confiance est l'une des 10 défis de recherche que vous avez identifié pour les data scientists. La causalité semble être un autre gros problème.
R : La causalité, je pense, est la prochaine frontière pour l'IA et l'apprentissage automatique. À l'heure actuelle, les algorithmes et les modèles d'apprentissage automatique sont efficaces pour trouver des modèles, des corrélations et des associations. Mais ils ne peuvent pas nous dire : est-ce que ceci a causé cela ? Ou si je devais faire cela, alors que se passerait-il ? Et donc il y a tout un autre domaine d'activité sur l'inférence causale et le raisonnement causal en informatique. La communauté statistique étudie la causalité depuis des décennies. Ils sont parfois un peu fâchés contre la communauté informatique pour avoir pensé que Oh, c'est une toute nouvelle idée. Je tiens donc à remercier la communauté statistique pour ses contributions fondamentales à la causalité. La combinaison des mégadonnées et du raisonnement causal peut vraiment faire avancer le domaine.
Q : Êtes-vous enthousiasmé par ce que la science des données peut accomplir ?
À: Tout le monde devient gaga de la science des données, car ils voient leurs domaines se transformer par l'utilisation des méthodes de la science des données sur les données numériques qu'ils génèrent, produisent, collectent, etc. C'est une période très excitante.