Le Royaume-Uni abandonne un algorithme d'immigration que les critiques qualifient de raciste

James Cridland / Flickr

Les nouvelles: Le ministère de l'Intérieur du Royaume-Uni a déclaré qu'il le ferait arrêter d'utiliser un algorithme pour traiter les demandes de visa qui, selon les critiques, sont racistes. Les opposants à celui-ci se disputer que l'utilisation de la nationalité par l'algorithme pour décider quelles demandes sont accélérées a conduit à un système dans lequel les personnes des pays blancs riches bénéficient d'un embarquement rapide ; les personnes de couleur les plus pauvres sont repoussées au fond de la file d'attente.

Le temps d'une refonte : Le ministère de l'Intérieur nie que son système soit raciste et un litige est toujours en cours. Même ainsi, le ministère de l'Intérieur a accepté d'abandonner l'algorithme et prévoit de relancer une version repensée plus tard cette année, après avoir procédé à un examen complet qui recherchera les préjugés inconscients. Entre-temps, le Royaume-Uni adoptera un système temporaire qui n'utilise pas la nationalité pour trier les demandes.

Système de trafic : Depuis 2015, le Royaume-Uni filtre les demandes de visa à l'aide d'un système de feux tricolores qui attribue un niveau de risque rouge, orange ou vert à chaque demandeur. Les personnes assignées à un niveau de risque rouge étaient plus susceptibles d'être refusées.

Tendance générale : Les algorithmes sont connus pour enraciner les préjugés institutionnels , notamment racistes. Pourtant, ils sont de plus en plus utilisés pour aider à prendre des décisions importantes, des vérifications de crédit aux demandes de visa en passant par audiences préliminaires et maintien de l'ordre . Les critiques se sont plaints que le système d'immigration américain est partialité raciale trop. Mais dans la plupart des cas, il est difficile de déballer exactement le fonctionnement de ces algorithmes et d'exposer les preuves de leur biais, car beaucoup sont propriétaires et leur utilisation est peu surveillée par le public.

Mais les critiques se multiplient. Aux États-Unis, certains services de police suspendent algorithmes prédictifs controversés et les entreprises technologiques ont cessé de fournir une technologie de reconnaissance faciale biaisée . En février un tribunal néerlandais a statué qu'un système qui prédisait la probabilité qu'une personne commette une fraude sociale ou fiscale était illégal parce qu'il ciblait injustement des minorités. La décision du ministère britannique de l'Intérieur de revoir son système sans attendre une décision de justice pourrait s'avérer être une étape importante.

cacher