211service.com
Comment mettre à niveau les juges avec l'apprentissage automatique
Jon Han
Quand un accusé devrait-il être tenu d'attendre son procès en prison plutôt que chez lui ? Un logiciel pourrait améliorer considérablement la capacité des juges à passer cet appel, réduisant ainsi la criminalité ou le nombre de personnes bloquées en prison.
Dans un nouvelle étude du National Bureau of Economic Research, des économistes et des informaticiens ont formé un algorithme pour prédire si les accusés risquaient de fuir leur casier judiciaire et leurs dossiers judiciaires en utilisant les données de centaines de milliers d'affaires à New York. Lorsqu'il a été testé sur plus de cent mille cas supplémentaires qu'il n'avait jamais vus auparavant, l'algorithme s'est avéré meilleur pour prédire ce que les accusés feront après leur libération que les juges.
Jon Kleinberg , professeur d'informatique à Cornell impliqué dans la recherche, explique que l'un des objectifs du projet était de montrer aux décideurs les avantages potentiels pour la société de l'utilisation de l'apprentissage automatique dans le système de justice pénale. Cela montre à quel point l'apprentissage automatique peut aider même dans des contextes où une expertise humaine considérable est mise à contribution, déclare Kleinberg, qui a travaillé sur le projet avec des chercheurs de Stanford, Harvard et de l'Université de Chicago.
Ils estiment que pour la ville de New York, les conseils de leur algorithme pourraient réduire la criminalité des accusés en attente de jugement jusqu'à 25% sans changer le nombre de personnes en attente en prison. Alternativement, il pourrait être utilisé pour réduire la population carcérale en attente de jugement de plus de 40 %, tout en laissant inchangé le taux de criminalité par les accusés. La répétition de l'expérience sur les données de 40 grands comtés urbains à travers les États-Unis a donné des résultats similaires.
En prime, des gains comme ceux-ci étaient possibles tout en déplaçant simultanément la population carcérale pour inclure une plus petite proportion d'Afro-Américains et d'Hispaniques.
L'algorithme attribue aux accusés un score de risque basé sur les données extraites des dossiers de leur affaire actuelle et de leur casier judiciaire, par exemple l'infraction dont ils sont soupçonnés, quand et où ils ont été arrêtés, ainsi que le nombre et le type de condamnations antérieures. (Les seules données démographiques qu'il utilise sont l'âge, et non la race.)
Kleinberg suggère que des algorithmes pourraient être déployés pour aider les juges sans perturbation majeure de leur façon de travailler actuellement sous la forme d'un système d'avertissement qui signale les décisions très susceptibles d'être erronées. L'analyse des performances des juges a suggéré qu'ils ont tendance à libérer occasionnellement des personnes qui sont très susceptibles de ne pas se présenter au tribunal ou de commettre un crime en attendant leur procès. Un algorithme pourrait détecter bon nombre de ces cas, explique Kleinberg.
Richard Berk , professeur de criminologie à l'Université de Pennsylvanie, décrit l'étude comme un très bon travail et un exemple d'une accélération récente de l'intérêt pour l'application de l'apprentissage automatique pour améliorer les décisions de justice pénale. L'idée est explorée depuis 20 ans, mais l'apprentissage automatique est devenu plus puissant et les données pour l'entraîner plus disponibles.
Berk a récemment testé un système avec la Commission des libérations conditionnelles de l'État de Pennsylvanie qui informe sur le risque qu'une personne récidive et a trouvé des preuves qu'il réduisait la criminalité. L'étude du NBER est importante car elle examine comment l'apprentissage automatique peut être utilisé avant la condamnation, un domaine qui n'a pas été exploré à fond, dit-il.
Cependant, Berk dit que davantage de recherches sont nécessaires pour garantir que les algorithmes de justice pénale ne conduisent pas à des résultats injustes. L'année dernière une enquête de ProPublica a révélé que les logiciels commerciaux développés pour aider à déterminer quels condamnés devraient être mis à l'épreuve étaient plus susceptibles d'étiqueter à tort les Noirs que les Blancs comme à haut risque.
Jens Ludwig , directeur de l'Université de Chicago Crime Lab, qui a travaillé sur la nouvelle étude du NBER, dit qu'elle démontre à quel point les résultats injustes sont loin d'être inévitables, en montrant qu'un algorithme de conseil aux juges pourrait réduire la criminalité ainsi que la vitesse à laquelle les Noirs et les Hispaniques sont emprisonnés. Ces outils peuvent en fait améliorer l'équité par rapport au statu quo, dit-il.