Tous les logiciels de recrutement automatisés sont sujets à des biais par défaut

Catégorie: Politique technique Posté 13 décembre

À nouveau rapport out from Upturn à but non lucratif a analysé certains des algorithmes d'embauche les plus importants du marché et a constaté que, par défaut, ces algorithmes sont sujets à des biais.

Les étapes d'embauche : Des algorithmes ont été créés pour automatiser quatre étapes principales du processus d'embauche : la recherche de sources d'information, la présélection, les entretiens et la sélection. L'analyse a révélé que si les outils prédictifs étaient rarement déployés pour faire le choix final de la personne à embaucher, ils étaient couramment utilisés tout au long de ces étapes pour rejeter les gens.

Quand les préjugés s'insinuent : Si les données d'embauche passées sont utilisées, les informations sur la formation peuvent être biaisées ou non représentatives, ce qui transmet ces biais au logiciel. Le simple fait de supprimer les données sur le sexe et la race n'empêchera pas les logiciels d'être biaisés. D'autres éléments d'information, comme la distance du bureau, peuvent être fortement corrélés à des facteurs plus sensibles. Amazon l'a vu dans un algorithme d'embauche qu'il a essayé de développer. Les responsables du recrutement peuvent également être enclins à accorder trop de crédit aux recommandations faites par les algorithmes de recrutement.

Régulation de l'IA : L’étude a également révélé que les lois actuelles ne sont pas équipées pour faire face au problème. Les lois conçues pour réglementer les décisions d'embauche humaine ne permettent pas facilement une enquête et une application lorsqu'il s'agit de discrimination basée sur la machine.

Les points positifs : D'autre part, les outils prédictifs peuvent aider à découvrir les préjugés humains passés et les hypothèses qui avaient été ignorées auparavant. Cela permettrait aux entreprises d'apporter des changements positifs à leurs pratiques. Plusieurs fournisseurs prennent des mesures non seulement pour vérifier la partialité de leurs produits, mais aussi pour intégrer des fonctionnalités favorisant l'équité dans leurs produits, déclare l'un des auteurs du rapport, Miranda Bogen. Nous espérons que davantage de fournisseurs adopteront ces types d'interventions, mais il reste encore un long chemin à parcourir avant de pouvoir être sûrs que les outils prédictifs ne causent pas plus de tort que d'avantages.

Résolution du problème : Pour rendre l'utilisation de l'embauche d'IA plus équitable, le rapport recommande :

—permettant un audit indépendant des logiciels de l'employeur et du fournisseur
—demander aux gouvernements de mettre à jour leurs réglementations pour couvrir les logiciels d'embauche prédictifs
—examiner plus en détail les plateformes d'annonces et d'emplois pour analyser leur influence croissante sur l'embauche

Parce qu'il y a tellement de points différents dans ce processus où des préjugés peuvent émerger, les employeurs doivent certainement procéder avec prudence, dit Bogen. Ils doivent être transparents sur les outils prédictifs qu'ils utilisent et prendre toutes les mesures possibles pour détecter et traiter de manière proactive les biais qui surviennent - et s'ils ne peuvent pas le faire en toute confiance, ils doivent débrancher.

Cet article a été initialement publié dans notre newsletter sur l'avenir du travail, Pointage. Vous pouvez vous inscrire ici.