L'IA ne peut pas prédire comment la vie d'un enfant se déroulera même avec une tonne de données

SHARON MCCUTCHEON / UNSPLASH

Les décideurs s'appuient souvent sur les travaux des spécialistes des sciences sociales pour prédire comment des politiques spécifiques pourraient affecter des résultats sociaux tels que les taux d'emploi ou de criminalité. L'idée est que s'ils peuvent comprendre comment différents facteurs peuvent modifier la trajectoire de la vie d'une personne, ils peuvent proposer des interventions pour favoriser les meilleurs résultats.

Ces dernières années, cependant, ils se sont de plus en plus appuyés sur l'apprentissage automatique, qui promet de produire des prédictions beaucoup plus précises en analysant des quantités de données beaucoup plus importantes. De tels modèles sont maintenant utilisés pour prédire la probabilité qu'un accusé puisse être arrêté pour un deuxième crime , ou que un enfant est en danger pour maltraitance et négligence à la maison. L'hypothèse est qu'un algorithme alimenté avec suffisamment de données sur une situation donnée fera des prédictions plus précises qu'un humain ou une analyse statistique plus basique.

Maintenant un nouvelle étude publié dans les Actes de l'Académie nationale des sciences jette un doute sur l'efficacité réelle de cette approche. Trois sociologues de l'Université de Princeton ont demandé à des centaines de chercheurs de prédire six résultats de vie pour les enfants, les parents et les ménages en utilisant près de 13 000 points de données sur plus de 4 000 familles. Aucun des chercheurs ne s'est approché d'un niveau de précision raisonnable, qu'il ait utilisé des statistiques simples ou un apprentissage automatique de pointe.

L'étude met vraiment en évidence cette idée qu'en fin de compte, les outils d'apprentissage automatique ne sont pas magiques, déclare Alice Xiang, responsable de la recherche sur l'équité et la responsabilité au Partenariat à but non lucratif sur l'IA.

Les chercheurs ont utilisé les données d'une étude sociologique de 15 ans appelée Étude sur les familles fragiles et le bien-être des enfants , dirigé par Sara McLanahan, professeur de sociologie et d'affaires publiques à Princeton et l'un des principaux auteurs du nouveau document. L'étude originale cherchait à comprendre comment la vie des enfants nés de parents non mariés pourrait se transformer au fil du temps. Les familles ont été sélectionnées au hasard parmi les enfants nés dans les hôpitaux des grandes villes américaines au cours de l'année 2000. Elles ont été suivies pour la collecte de données lorsque les enfants avaient 1, 3, 5, 9 et 15 ans.

McLanahan et ses collègues Matthew Salganik et Ian Lundberg ont ensuite conçu un défi pour faire des prédictions participatives sur six résultats dans la phase finale qu'ils jugeaient sociologiquement importants. Ceux-ci comprenaient la moyenne pondérée cumulative des enfants à l'école; leur niveau de courage ou leur persévérance scolaire autodéclarée; et le niveau global de pauvreté dans leur ménage. Les participants au défi de diverses universités n'ont reçu qu'une partie des données pour former leurs algorithmes, tandis que les organisateurs en ont retenu certaines pour les évaluations finales. Au cours de cinq mois, des centaines de chercheurs, dont des informaticiens, des statisticiens et des sociologues computationnels, ont ensuite soumis leurs meilleures techniques de prédiction.

Le fait qu'aucune soumission n'ait pu atteindre une grande précision sur l'un des résultats a confirmé que les résultats n'étaient pas un hasard. Vous ne pouvez pas l'expliquer sur la base de l'échec d'un chercheur en particulier ou d'une technique particulière d'apprentissage automatique ou d'IA, explique Salganik, professeur de sociologie. Les techniques d'apprentissage automatique les plus compliquées n'étaient pas non plus beaucoup plus précises que les méthodes beaucoup plus simples.

Pour les experts qui étudient l'utilisation de l'IA dans la société, les résultats ne sont pas si surprenants. Même les algorithmes d'évaluation des risques les plus précis du système de justice pénale, par exemple, atteignent un maximum de 60 % ou 70 %, dit Xiang. Peut-être que dans l'abstrait, cela sonne plutôt bien, ajoute-t-elle, mais les taux de récidive peuvent être inférieurs à 40% de toute façon. Cela signifie qu'en prédisant aucune récidive, vous obtiendrez déjà un taux de précision de plus de 60 %.

De même, la recherche a montré à plusieurs reprises que dans des contextes où un algorithme évalue les risques ou choisit où diriger les ressources, des algorithmes simples et explicables ont souvent à peu près le même pouvoir de prédiction que les techniques de boîte noire comme l'apprentissage en profondeur. L'avantage supplémentaire des techniques de la boîte noire ne vaut donc pas les gros coûts d'interprétabilité.

Les résultats ne signifient pas nécessairement que les algorithmes prédictifs, qu'ils soient basés sur l'apprentissage automatique ou non, ne seront jamais des outils utiles dans le monde politique. Certains chercheurs soulignent, par exemple, que les données recueillies à des fins de recherche en sociologie sont différentes des données généralement analysées dans l'élaboration des politiques.

Rashida Richardson, directrice des politiques à l'institut AI Now, qui étudie l'impact social de l'IA, note également des inquiétudes quant à la manière dont le problème de prédiction a été encadré. Le fait qu'un enfant ait du courage, par exemple, est un jugement intrinsèquement subjectif que la recherche a montré comme étant une construction raciste pour mesurer le succès et la performance, dit-elle. Le détail l'a immédiatement fait penser, Oh, il n'y a aucun moyen que ça marche.

Salganik reconnaît également les limites de l'étude.

Mais il souligne que cela montre pourquoi les décideurs politiques devraient être plus prudents dans l'évaluation de la précision des outils algorithmiques de manière transparente. Avoir une grande quantité de données et avoir un apprentissage automatique compliqué ne garantit pas une prédiction précise, ajoute-t-il. Les décideurs politiques qui n'ont pas autant d'expérience de travail avec l'apprentissage automatique peuvent avoir des attentes irréalistes à ce sujet.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.

cacher