Amazon a abandonné le logiciel de recrutement d'IA parce qu'il était biaisé contre les femmes

Catégorie: Silicon Valley Posté 10 octobre

Les données sur lesquelles l'algorithme d'intelligence artificielle a été formé ont créé une préférence pour les candidats masculins.

Les nouvelles: Selon un rapport de Reuter , Amazon a commencé à développer un système automatisé en 2014 pour classer les demandeurs d'emploi avec une à cinq étoiles. Mais l'année dernière, l'entreprise a abandonné le projet après avoir constaté qu'elle avait développé une préférence pour les candidats masculins dans les rôles techniques.

Pourquoi? L'outil d'IA a été formé sur 10 ans de CV reçus par l'entreprise. Parce que la technologie est une industrie à prédominance masculine, la majorité de ces CV provenaient d'hommes.

Le résultat: Le système a été involontairement formé pour choisir des candidats masculins plutôt que des candidats féminins. Cela pénaliserait les CV contenant le mot féminin ou le nom de certains collèges réservés aux femmes. Bien qu'Amazon ait apporté des modifications pour rendre ces termes neutres, l'entreprise a perdu confiance dans le fait que le programme était en effet non sexiste dans tous les autres domaines.

Pourquoi est-ce important: Nous ne pouvons pas traiter l'intelligence artificielle comme intrinsèquement impartiale. La formation des systèmes sur des données biaisées signifie que les algorithmes deviennent également biaisés. Si des programmes d'embauche d'IA injustes comme celui-ci ne sont pas découverts avant d'être mis en œuvre, ils perpétueront les problèmes de diversité de longue date dans les entreprises plutôt que de les résoudre.

Vous voulez suivre l'évolution de la technologie sur le lieu de travail de demain ? Inscrivez-vous à notre newsletter sur l'avenir du travail, Pointage.