L'IA de jumelage d'emplois de LinkedIn était biaisée. La solution de l'entreprise ? Plus d'IA.

Mme Tech | Envato

Il y a des années, LinkedIn a découvert que les algorithmes de recommandation qu'il utilise pour faire correspondre les candidats aux opportunités d'emploi produisaient des résultats biaisés. Les algorithmes classaient les candidats en partie en fonction de leur probabilité de postuler à un poste ou de répondre à un recruteur. Le système a fini par référer plus d'hommes que de femmes pour des postes vacants simplement parce que les hommes sont souvent plus agressifs dans la recherche de nouvelles opportunités.

LinkedIn a découvert le problème et a construit un autre programme d'IA pour contrer le biais dans les résultats du premier. Pendant ce temps, certains des plus grands sites de recherche d'emploi au monde, notamment CareerBuilder, ZipRecruiter et Monster, adoptent des approches très différentes pour lutter contre les préjugés sur leurs propres plateformes, comme nous le rapportons dans le dernier épisode du podcast In Machines We Trust de MIT Technology Review. Étant donné que ces plateformes ne divulguent pas exactement le fonctionnement de leurs systèmes, il est difficile pour les demandeurs d'emploi de savoir dans quelle mesure l'une de ces mesures est efficace pour prévenir la discrimination.

Si vous deviez commencer à chercher un nouvel emploi aujourd'hui, l'intelligence artificielle influencerait très probablement votre recherche. L'IA peut déterminer les offres que vous voyez sur les plateformes de recherche d'emploi et décider de transmettre ou non votre CV aux recruteurs d'une entreprise. Certaines entreprises peuvent vous demander de jouer Jeux vidéo alimentés par l'IA qui mesurent vos traits de personnalité et évaluent si vous seriez un bon candidat pour des rôles spécifiques.

Histoire connexe

Les auditeurs testent les algorithmes d'embauche pour détecter les biais, mais il n'y a pas de solution simple

Les audits d'IA peuvent ignorer certains types de biais et ne vérifient pas nécessairement qu'un outil de recrutement sélectionne les meilleurs candidats pour un poste.

De plus en plus d'entreprises utilisent l'IA pour recruter et embaucher de nouveaux employés, et l'IA peut prendre en compte presque toutes les étapes du processus d'embauche . Le Covid-19 a alimenté une nouvelle demande pour ces technologies. Les deux Chose curieuse et HireVue , des entreprises spécialisées dans les entretiens basés sur l'IA, ont signalé une augmentation de leurs activités pendant la pandémie.

Cependant, la plupart des recherches d'emploi commencent par une simple recherche. Les demandeurs d'emploi se tournent vers des plateformes comme LinkedIn , Monstre , ou ZipRecruiter , où ils peuvent télécharger leur curriculum vitae, parcourir les offres d'emploi et postuler aux postes vacants.

Le but de ces sites Web est de jumeler les candidats qualifiés aux postes disponibles. Pour organiser toutes ces ouvertures et ces candidats, de nombreuses plateformes utilisent des algorithmes de recommandation alimentés par l'IA. Les algorithmes, parfois appelés moteurs de correspondance, traitent les informations du demandeur d'emploi et de l'employeur pour établir une liste de recommandations pour chacun.

Vous entendez généralement l'anecdote selon laquelle un recruteur passe six secondes à regarder votre CV, n'est-ce pas ? déclare Derek Kan, vice-président de la gestion des produits chez Monster. Lorsque nous examinons le moteur de recommandation que nous avons construit, vous pouvez réduire ce temps à quelques millisecondes.

La plupart des moteurs de correspondance sont optimisés pour générer des applications, dit Jean Jersin , l'ancien vice-président de la gestion des produits chez LinkedIn. Ces systèmes fondent leurs recommandations sur trois catégories de données : les informations que l'utilisateur fournit directement à la plateforme ; les données attribuées à l'utilisateur en fonction d'autres personnes ayant des compétences, des expériences et des intérêts similaires ; et des données comportementales, comme la fréquence à laquelle un utilisateur répond aux messages ou interagit avec les offres d'emploi.

Dans le cas de LinkedIn, ces algorithmes excluent le nom, l'âge, le sexe et la race d'une personne, car l'inclusion de ces caractéristiques peut contribuer à biaiser les processus automatisés. Mais l'équipe de Jersin a découvert que même ainsi, les algorithmes du service pouvaient toujours détecter les modèles de comportement présentés par des groupes ayant des identités de genre particulières.

Par exemple, alors que les hommes sont plus susceptibles de postuler à des emplois qui exigent une expérience de travail au-delà de leurs qualifications, les femmes ont tendance à ne rechercher que des emplois pour lesquels leurs qualifications correspondent aux exigences du poste. L'algorithme interprète cette variation de comportement et ajuste ses recommandations d'une manière qui désavantage par inadvertance les femmes.

Vous pourriez recommander, par exemple, des emplois plus expérimentés à un groupe de personnes qu'à un autre, même s'ils sont qualifiés au même niveau, dit Jersin. Ces personnes pourraient ne pas être exposées aux mêmes opportunités. Et c'est vraiment l'impact dont nous parlons ici.

Les hommes incluent également plus de compétences sur leur CV à un degré de compétence inférieur à celui des femmes, et ils s'engagent souvent de manière plus agressive avec les recruteurs sur la plateforme.

Pour résoudre ces problèmes, Jersin et son équipe de LinkedIn construit une nouvelle IA conçu pour produire des résultats plus représentatifs et l'a déployé en 2018. Il s'agissait essentiellement d'un algorithme distinct conçu pour contrer les recommandations orientées vers un groupe particulier. La nouvelle IA garantit qu'avant de référencer les correspondances organisées par le moteur d'origine, le système de recommandation inclut une répartition représentative des utilisateurs par sexe.

Kan dit que Monster, qui répertorie 5 à 6 millions d'emplois à un moment donné, intègre également des données comportementales dans ses recommandations, mais ne corrige pas les biais de la même manière que LinkedIn. Au lieu de cela, l'équipe marketing se concentre sur l'inscription d'utilisateurs d'horizons divers au service, et l'entreprise compte ensuite sur les employeurs pour faire rapport et dire à Monster s'il a transmis ou non un ensemble représentatif de candidats.

Irina Novoselski , PDG de CareerBuilder, dit qu'elle se concentre sur l'utilisation des données collectées par le service pour enseigner aux employeurs comment éliminer les préjugés de leurs offres d'emploi. Par exemple, lorsqu'un candidat lit une description de poste avec le mot 'rockstar', il y a sensiblement moins de femmes qui postulent, dit-elle.

Ian Sceau , PDG et cofondateur de ZipRecruiter, affirme que les algorithmes de l'entreprise ne tiennent pas compte de certaines caractéristiques d'identification telles que les noms lors du classement des candidats ; au lieu de cela, ils classent les personnes sur la base de 64 autres types d'informations, y compris des données géographiques. Il dit que l'entreprise ne discute pas des détails de ses algorithmes, citant des préoccupations de propriété intellectuelle, mais ajoute : Je pense que nous sommes aussi proches que possible d'une évaluation des personnes basée sur le mérite.

Avec l'automatisation à chaque étape du processus de recrutement, les demandeurs d'emploi doivent désormais apprendre à se démarquer à la fois de l'algorithme et des responsables du recrutement. Mais sans informations claires sur ce que font ces algorithmes, les candidats sont confrontés à des défis importants.

Je pense que les gens sous-estiment l'impact des algorithmes et des moteurs de recommandation sur les emplois, dit Kan. La façon dont vous vous présentez est très probablement d'abord lue par des milliers de machines et de serveurs, avant même qu'elle n'atteigne un œil humain.

Cet article a été mis à jour le 25/06/21 pour refléter que la nouvelle IA de LinkedIn assure une répartition représentative des utilisateurs (et non une répartition uniforme) à travers les genres sont recommandés pour les travaux.

cacher