Nous ne sommes pas prêts pour l'IA, déclare le gagnant d'un nouveau prix d'IA de 1 million de dollars

Rachel Wu / MIT CSAIL

Régina Barzilay , professeur au Laboratoire d'informatique et d'intelligence artificielle du MIT (CSAIL), est le premier lauréat du Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity, un nouveau prix récompensant des recherches exceptionnelles en IA. Barzilay a commencé sa carrière en travaillant sur le traitement du langage naturel. Après avoir survécu à un cancer du sein en 2014, elle s'est tournée vers algorithmes d'apprentissage automatique pour détecter le cancer et concevoir de nouveaux médicaments . Le prix sera décerné en février 2021 par l'Association pour l'avancement de l'intelligence artificielle (AAAI).

Le prix en argent de 1 million de dollars, fourni par Entreprise chinoise d'éducation en ligne Squirrel AI , dont nous avons parlé précédemment, place le prix au même niveau financier que le prix Nobel et le prix Turing en informatique. J'ai parlé à Barzilay au téléphone du prix, des promesses et des frustrations de l'IA.

Notre conversation a été modifiée pour plus de longueur et de clarté.

Félicitations pour ce prix. Qu'est-ce que cela signifie pour vous et pour l'IA en général ?

Merci. Vous savez, il y a beaucoup de domaines où l'IA ne fait toujours pas de différence, mais pourrait l'être. Nous utilisons tout le temps des systèmes de traduction automatique ou de recommandation, mais personne ne les considère comme une technologie sophistiquée, personne ne pose de questions à leur sujet. Mais avec d'autres domaines de notre vie qui sont cruciaux pour notre bien-être, comme les soins de santé, l'IA n'a pas encore l'acceptation de la société. J'espère que ce prix, et l'attention qui l'accompagne, contribuera à faire changer d'avis les gens et leur permettra de voir les opportunités, et poussera la communauté de l'IA à franchir les prochaines étapes.

Quels types d'étapes ?

À l'époque où la technologie est passée de la vapeur à l'électricité, les premières tentatives d'amener l'électricité à l'industrie n'ont pas été très fructueuses parce que les gens ont juste essayé de reproduire les moteurs à vapeur. Je pense que quelque chose de similaire se passe maintenant avec l'IA. Nous devons trouver comment l'intégrer dans de nombreux domaines différents : pas seulement les soins de santé, mais aussi l'éducation, la conception des matériaux, l'urbanisme, etc. Bien sûr, il y a plus à faire du côté de la technologie, y compris la création de meilleurs algorithmes, mais nous introduisons cette technologie dans des environnements hautement réglementés et nous n'avons pas vraiment cherché comment faire cela.

À l'heure actuelle, l'IA est florissante dans des endroits où le coût de l'échec est très faible. Si Google vous trouve une mauvaise traduction ou vous donne un mauvais lien, c'est bon ; vous pouvez simplement passer au suivant. Mais cela ne fonctionnera pas pour un médecin. Si vous donnez aux patients le mauvais traitement ou si vous manquez un diagnostic, il y a de très graves conséquences. De nombreux algorithmes peuvent en fait faire les choses mieux que les humains. Mais nous faisons toujours confiance à nos propres intuitions, à notre propre esprit, plus qu'à quelque chose que nous ne comprenons pas. Nous devons donner aux médecins des raisons de faire confiance à l'IA. La FDA étudie ce problème, mais je pense qu'il est très loin d'être résolu aux États-Unis ou ailleurs dans le monde.

En 2014, on vous a diagnostiqué un cancer du sein. Cela a-t-il changé votre façon de penser votre travail ?

Oh, ouais, absolument. L'une des choses qui se sont produites lorsque j'ai suivi un traitement et que j'ai passé un temps excessif à l'hôpital, c'est que les choses sur lesquelles je travaillais maintenant me semblaient insignifiantes. J'ai pensé : les gens souffrent. Nous pouvons faire quelque chose.

Quand j'ai commencé le traitement, je me demandais ce qu'il advenait des patients comme moi, avec mon type de tumeur et mon âge et ce traitement. Ils diraient : Oh, il y a eu cet essai clinique, mais vous n'y correspondez pas exactement. Et j'ai pensé que le cancer du sein est une maladie très courante. Il y a tellement de patients, avec tellement de données accumulées. Comment se fait-il qu'on ne l'utilise pas ? Mais vous ne pouvez pas facilement extraire ces informations du système des hôpitaux américains. C'est là, mais c'est dans le texte. Et j'ai donc commencé à utiliser la PNL pour y accéder. Je ne pouvais imaginer aucun autre domaine où les gens jettent volontairement les données disponibles. Mais c'est ce qui se passait en médecine.

Les hôpitaux ont-ils sauté sur l'occasion d'utiliser davantage ces données ?

Il a fallu du temps pour trouver un médecin qui travaillerait avec moi. Je disais aux gens, si vous avez un problème, j'essaierai de le résoudre. Je n'ai pas besoin de financement. Donnez-moi juste un problème et les données. Mais j'ai mis du temps à trouver des collaborateurs. Vous savez, je n'étais pas un personnage particulièrement populaire.

À partir de ce travail en PNL, je suis ensuite passé à la prédiction du risque pour les patientes des mammographies, en utilisant la reconnaissance d'images pour prédire si vous auriez un cancer ou non - comment votre maladie est susceptible de progresser.

Ces outils auraient-ils fait une différence s'ils avaient été à votre disposition au moment du diagnostic ?

Absolument. Nous pouvons exécuter ce truc sur mes mammographies d'avant mon diagnostic, et c'était déjà là - vous pouvez clairement le détecter. Ce n'est pas une sorte de miracle - le cancer ne se développe pas d'hier à aujourd'hui. C'est un processus assez long. Il y a des signes dans les tissus, mais l'œil humain a une capacité limitée à détecter ce qui peut être de très petits motifs. Dans mon cas, il aurait été visible deux ans auparavant.

Pourquoi le médecin ne l'a-t-il pas vu ?

C'est une tâche difficile. Chaque mammographie a des points blancs qui peuvent ou non être cancéreux, et un médecin doit décider lequel de ces points blancs doit être biopsié. Le médecin doit trouver un équilibre entre agir sur l'intuition et nuire à un patient en faisant des biopsies qui ne sont pas nécessaires. Mais c'est exactement le type de décision que l'IA basée sur les données peut nous aider à prendre de manière beaucoup plus systématique.

Ce qui nous ramène au problème de la confiance. Avons-nous besoin d'une solution technique, rendant les outils plus explicables, ou devons-nous éduquer les personnes qui les utilisent ?

C'est une excellente question. Certaines décisions seraient vraiment faciles à expliquer à un humain. Si une IA détecte un cancer dans une image, vous pouvez zoomer sur la zone que le modèle examine lorsqu'il fait la prédiction. Mais si vous demandez à une machine, comme nous le sommes de plus en plus, de faire des choses qu'un humain ne peut pas faire, qu'est-ce que la machine va exactement vous montrer ? C'est comme un chien, qui peut sentir beaucoup mieux que nous, expliquant comment il peut sentir quelque chose. Nous n'avons tout simplement pas cette capacité. Je pense qu'à mesure que les machines deviennent beaucoup plus avancées, c'est la grande question. Quelle explication vous convaincrait si vous ne parveniez pas à résoudre cette tâche par vous-même ?

Faut-il donc attendre que l'IA s'explique pleinement ?

Non. Pensez à la façon dont nous répondons aux questions de vie ou de mort maintenant. La plupart des questions médicales, telles que la façon dont vous réagirez à tel traitement ou tel médicament, sont résolues à l'aide de modèles statistiques qui peuvent conduire à des erreurs. Aucun d'entre eux n'est parfait.

C'est pareil avec l'IA. Je ne pense pas qu'il soit bon d'attendre jusqu'à ce que nous développions une IA parfaite. Je ne pense pas que cela arrivera de si tôt. La question est de savoir comment utiliser ses forces et éviter ses faiblesses.

Enfin, pourquoi l'IA n'a-t-elle pas encore eu beaucoup d'impact sur le covid-19 ?

L'IA ne va pas résoudre tous les gros problèmes que nous avons. Mais il y a eu quelques petits exemples. Lorsque tous les services cliniques non essentiels ont été réduits plus tôt cette année, nous avons utilisé un outil d'IA pour identifier les patientes en oncologie de Boston qui devraient encore passer leur mammographie annuelle.

Mais la principale raison pour laquelle l'IA n'a pas été plus utile n'est pas le manque de technologie mais le manque de données. Vous savez, je fais partie de l'équipe de direction de la J-Clinic du MIT, un centre d'IA dans les soins de santé, et nous étions nombreux en avril à dire : nous voulons vraiment faire quelque chose, où pouvons-nous obtenir les données ? Mais nous n'avons pas pu l'obtenir. C'était impossible. Même maintenant, six mois plus tard, la manière dont nous obtenons les données n'est pas évidente.

La deuxième raison est que nous n'étions pas prêts. Même dans des circonstances normales, lorsque les gens ne sont pas stressés, il est difficile d'intégrer des outils d'IA dans un processus et de s'assurer que tout est correctement réglementé. Dans la crise actuelle, nous n'avons tout simplement pas cette capacité.

Vous savez, je comprends pourquoi les médecins sont conservateurs : la vie des gens est en jeu. Mais j'espère que ce sera un signal d'alarme à quel point nous ne sommes pas préparés à réagir rapidement aux nouvelles menaces. Même si je pense que l'IA est la technologie du futur, à moins que nous ne trouvions comment lui faire confiance, nous ne la verrons pas avancer.

cacher