L'IA apprend quand elle devrait et ne devrait pas s'en remettre à un humain

Mark Schiefelbein/AP

Le contexte: Des études montrent que lorsque les gens et les systèmes d'IA travaillent ensemble, ils peuvent surpasser l'un ou l'autre agissant seul. Les systèmes de diagnostic médical sont souvent vérifiés par des médecins humains, et les systèmes de modération de contenu filtrent ce qu'ils peuvent avant de demander une assistance humaine. Mais les algorithmes sont rarement conçus pour optimiser ce transfert de l'IA à l'homme. S'ils l'étaient, le système d'IA ne s'en remettrait à son homologue humain que si la personne pouvait réellement prendre une meilleure décision.

La recherche: Des chercheurs du Laboratoire d'informatique et d'IA du MIT (CSAIL) ont maintenant développé un système d'IA pour faire ce genre d'optimisation en fonction des forces et des faiblesses du collaborateur humain. Il utilise deux modèles d'apprentissage automatique distincts ; on prend la décision réelle, qu'il s'agisse de diagnostiquer un patient ou de supprimer une publication sur les réseaux sociaux, et on prédit si l'IA ou l'humain est le meilleur décideur.

Ce dernier modèle, que les chercheurs appellent le rejeteur, améliore de manière itérative ses prédictions en fonction des antécédents de chaque décideur au fil du temps. Il peut également prendre en compte des facteurs autres que les performances, notamment les contraintes de temps d'une personne ou l'accès d'un médecin à des informations sensibles sur les patients non disponibles pour le système d'IA.

Les résultats: Les chercheurs ont testé l'approche hybride humain-IA dans une variété de scénarios, y compris pour des tâches de reconnaissance d'images et pour la détection de discours de haine. Le système d'IA a pu s'adapter au comportement de l'expert et s'y reporter le cas échéant, permettant aux deux décideurs d'atteindre rapidement un niveau combiné de précision supérieur à une précédente approche hybride homme-IA.

Étude de cas: Bien que ces expériences soient encore relativement simples, les chercheurs pensent qu'une telle approche pourrait éventuellement être appliquée à des décisions complexes dans le domaine des soins de santé et ailleurs. Envisagez un système d'IA qui aide les médecins à prescrire le bon antibiotique. Bien que les antibiotiques à large spectre soient très efficaces, leur utilisation excessive peut entraîner une résistance aux antibiotiques. Des antibiotiques spécifiques, en revanche, évitent ce problème mais ne doivent être utilisés que s'ils ont de fortes chances de fonctionner. Compte tenu de ce compromis, le système d'IA pourrait apprendre à s'adapter à divers médecins ayant des biais différents dans leurs prescriptions et à corriger les tendances à sur ou sous-prescrire des antibiotiques à large spectre.

cacher