L'apprentissage en profondeur est une boîte noire, mais les soins de santé ne s'en soucieront pas

Jon Han

Plus tôt en 2017, le scientifique en intelligence artificielle Sebastian Thrun et ses collègues de l'Université de Stanford ont démontré qu'un algorithme d'apprentissage en profondeur était capable de diagnostiquer des lésions cutanées potentiellement cancéreuses aussi précisément qu'un dermatologue certifié.

La découverte du cancer, rapportée dans La nature, faisait partie d'un flux de rapports offrant un aperçu précoce de ce qui pourrait être une nouvelle ère de diagnostic par logiciel, dans laquelle l'intelligence artificielle aide les médecins, voire les concurrence.

Les experts disent que les images médicales, comme les photographies, les radiographies et les IRM, correspondent presque parfaitement aux atouts des logiciels d'apprentissage en profondeur, qui ont permis au cours des dernières années de réaliser des percées dans la reconnaissance des visages et des objets sur les images.

Les entreprises sont déjà à la poursuite. Verily, la branche sciences de la vie d'Alphabet, s'est associée à Nikon en décembre dernier pour développer des algorithmes de détection des causes de cécité chez les diabétiques. Le domaine de la radiologie, quant à lui, a été surnommé la Silicon Valley de la médecine en raison du nombre d'images détaillées qu'il génère.

Médecine boîte noire

Bien que les prédictions de l'équipe de Thrun aient été très précises, personne ne savait exactement quelles caractéristiques d'une taupe le programme d'apprentissage en profondeur utilisait pour la classer comme cancéreuse ou bénigne. Le résultat est la version médicale de ce qu'on appelle le problème de la boîte noire de l'apprentissage en profondeur.

Contrairement aux logiciels de vision plus traditionnels, où un programmeur définit des règles - par exemple, un panneau d'arrêt a huit côtés - dans l'apprentissage en profondeur, l'algorithme trouve les règles lui-même, mais souvent sans laisser de piste d'audit pour expliquer ses décisions.

Dans le cas de la médecine boîte noire, les médecins ne peuvent pas savoir ce qui se passe parce que personne ne le sait ; c'est intrinsèquement opaque, dit Nicholson Price, un juriste de l'Université du Michigan qui se concentre sur le droit de la santé.

Histoire connexe

Lire la suite Pourquoi la plupart des patients ne répondent-ils pas aux traitements les plus récents ?

Pourtant, Price dit que cela ne constituera peut-être pas un obstacle sérieux aux soins de santé. Il compare l'apprentissage en profondeur à des médicaments dont les avantages sont obtenus par des moyens inconnus. Le lithium en est un exemple. Son mécanisme biochimique exact affectant l'humeur n'a pas encore été élucidé, mais le médicament est toujours approuvé pour le traitement du trouble bipolaire. Le mécanisme derrière l'aspirine, le médicament le plus largement utilisé de tous les temps, n'a pas été compris pendant 70 ans.

De même, selon Price, le problème de la boîte noire ne posera pas de problème à la Food and Drug Administration des États-Unis, qui, en plus d'approuver de nouveaux médicaments, réglemente également les logiciels si leur objectif est de traiter ou de prévenir les maladies.

Dans un communiqué, la FDA indique qu'au cours des 20 dernières années, elle a approuvé un certain nombre d'applications d'analyse d'images qui reposent sur une variété de techniques de reconnaissance de formes, d'apprentissage automatique et de vision par ordinateur. L'agence a confirmé qu'elle voyait de plus en plus de logiciels basés sur l'apprentissage en profondeur et note que les entreprises sont autorisées à garder confidentiels les détails de leurs algorithmes.

La FDA a déjà donné son feu vert à au moins un algorithme d'apprentissage en profondeur. En janvier, la FDA a autorisé la vente d'un logiciel développé par Arterys, une société privée d'imagerie médicale basée à San Francisco. Son algorithme, DeepVentricle, analyse les images IRM des contours intérieurs des cavités cardiaques et calcule le volume de sang que le cœur d'un patient peut contenir et pomper. Ce calcul est effectué en moins de 30 secondes, explique Arterys, alors que les méthodes conventionnelles prennent généralement une heure.

La FDA a exigé qu'Arterys effectue des tests approfondis pour s'assurer que les résultats de son algorithme étaient à égalité avec ceux générés par les médecins. Vous devez prouver statistiquement que votre algorithme suit quelle que soit son utilisation prévue ou [ce que] les allégations marketing disent qu'il fait, déclare John Axerio-Cilies, directeur de la technologie de l'entreprise.

Grande demande

Pour former leur logiciel, l'équipe dirigée par Thrun, un ancien vice-président de Google qui y travaillait sur les voitures sans conducteur, lui a fourni 129 405 images d'affections cutanées évaluées par des experts. Celles-ci couvraient 2 032 maladies différentes et comprenaient 1 942 images de cancers de la peau confirmés.

Histoire connexe

En savoir plus sur Sebastian Thrun Sebastian Thrun a contribué à alimenter le battage médiatique autour des cours universitaires ouverts en ligne massifs, mais a fait pivoter sa propre startup pour se concentrer sur la formation professionnelle à la place.

Finalement, le logiciel a pu surpasser 21 dermatologues dans l'identification des grains de beauté potentiellement cancéreux.

Lorsque les dermatologues verront le potentiel de cette technologie, je pense que la plupart l'adopteront, déclare Robert Novoa, dermatologue de Stanford et auteur de l'étude. Lui et d'autres membres de l'équipe ont refusé de dire s'ils prévoyaient de commercialiser le logiciel.

Toute crainte que les médecins soient bientôt sans emploi est également déplacée, déclare Allan Halpern, dermatologue à Memorial Sloan Kettering et président de la Société internationale pour l'imagerie numérique de la peau. Je pense que la menace est le contraire, dit-il. Les algorithmes pourraient faire grimper considérablement la demande de services dermatologiques.

En effet, un résultat positif à un test de dépistage nécessite toujours une biopsie. Un logiciel d'apprentissage en profondeur pourrait trouver un rôle dans les bureaux de soins primaires, dit Halpern, mais s'il était mis à disposition en tant que test de dépistage à l'échelle de la population ou via une application grand public, il n'y aurait pas assez de dermatologues pour suivre les pistes. .

Axerio-Cilies affirme que les entreprises seront tentées de proposer des outils d'apprentissage en profondeur directement aux consommateurs. Par exemple, les gens peuvent scanner leurs propres grains de beauté pour voir s'ils doivent consulter un médecin. Certaines applications de téléphone portable non IA, comme Cartographe taupe , permettent déjà aux gens de suivre les taupes suspectes et d'enregistrer tout changement au fil du temps.

Halpern, cependant, dit qu'il ne pense pas que les consommateurs soient prêts à faire face à des systèmes de diagnostic qui pourraient leur dire qu'un grain de beauté a 5% ou 50% de chances d'être cancéreux.

Nous ne sommes pas doués pour utiliser les probabilités, dit-il.

cacher