Une entreprise de recrutement d'IA dit qu'elle peut prédire les changements d'emploi en fonction de vos entretiens

Une capture d'écran de PredictiveHire.

Depuis le début de la pandémie, un nombre croissant d'entreprises se sont tournés vers l'IA pour les aider dans leur recrutement. Les systèmes les plus courants impliquent l'utilisation d'algorithmes de reconnaissance faciale, de jeux, de questions ou d'autres évaluations pour aider à déterminer les candidats à interviewer.

Alors que les militants et les universitaires avertissent que ces outils de dépistage peuvent perpétuer la discrimination, les fabricants eux-mêmes soutiennent que l'embauche algorithmique aide à corriger les Humain Les préjugés. Les algorithmes peuvent être testés et modifiés, alors que les préjugés humains sont beaucoup plus difficiles à corriger, du moins c'est ce que pense la pensée. Dans un Article de décembre 2019 , des chercheurs de Cornell ont passé en revue le paysage des entreprises de filtrage algorithmique pour analyser leurs revendications et leurs pratiques. Sur les 18 qu'ils ont identifiés avec des sites Web en anglais, la majorité se présentaient comme une alternative plus juste à l'embauche humaine, suggérant qu'ils s'accrochaient à l'inquiétude accrue suscitée par ces problèmes pour vanter les avantages de leurs outils et attirer plus de clients.

Mais la discrimination n'est pas la seule préoccupation en matière d'embauche algorithmique, et certains chercheurs craignent que le langage marketing axé sur les préjugés ne permette aux entreprises de se tirer d'affaire sur d'autres questions, telles que les droits des travailleurs. Un nouveau préimpression de l'une de ces entreprises sert maintenant de rappel important : nous ne devrions pas laisser l'attention que les gens ont commencé à accorder aux problèmes de préjugés et de discrimination éclipser le fait qu'il existe un tas d'autres problèmes, déclare Solon Barocas, professeur adjoint. à l'Université Cornell et chercheur principal chez Microsoft Research, qui étudie l'équité et la responsabilité algorithmiques.

La société en question est PredictiveHire, basée en Australie et fondée en octobre 2013. Elle propose un chatbot qui pose aux candidats une série de questions ouvertes. Il analyse ensuite leurs réponses pour évaluer les traits de personnalité liés à l'emploi, tels que le dynamisme, l'initiative et la résilience. Selon la PDG de l'entreprise, Barbara Hyman, ses clients sont des employeurs qui doivent gérer un grand nombre d'applications, telles que celles du commerce de détail, des ventes, des centres d'appels et des soins de santé. Comme l'a révélé l'étude Cornell, elle utilise également activement les promesses d'embauche plus équitables dans son langage marketing. Sur sa page d'accueil, il annonce avec audace : Meet Phai. Votre copilote en embauche. Faire des interviews SUPER RAPIDE. INCLUSIF, ENFIN. ENFIN, SANS BIAIS.

Comme nous l'avons déjà écrit, l'idée d'algorithmes sans biais est très trompeur . Mais PredictiveHire dernières recherches est troublant pour une autre raison. Il se concentre sur la construction d'un nouveau modèle d'apprentissage automatique qui cherche à prédire la probabilité qu'un candidat change d'emploi, la pratique consistant à changer d'emploi plus fréquemment qu'un employeur ne le souhaite. Le travail fait suite à la récente recherche de l'entreprise évaluée par des pairs qui a examiné comment les questions d'entretien ouvertes correspondre à la personnalité (en soi un pratique très contestée ). Parce que les psychologues organisationnels ont déjà montré un lien entre la personnalité et le saut d'emploi, dit Hyman, l'entreprise voulait tester si elle pouvait utiliser ses données existantes pour la prédiction. La fidélisation des employés est une préoccupation majeure pour de nombreuses entreprises avec lesquelles nous travaillons, compte tenu des coûts d'un roulement élevé des employés, estimé à 16 % du coût du salaire de chaque employé, ajoute-t-elle.

L'étude a utilisé les réponses en texte libre de 45 899 candidats qui avaient utilisé le chatbot de PredictiveHire. On avait initialement posé aux candidats cinq à sept questions ouvertes et des questions d'auto-évaluation sur leur expérience passée et leur jugement situationnel. Ces questions comprenaient des questions destinées à démêler les traits que des études ont précédemment montrés fortement corrélés avec les tendances à changer d'emploi, comme être plus ouvert à l'expérience, moins pratique et moins terre à terre. Les chercheurs de l'entreprise affirment que le modèle était capable de prédire le changement d'emploi avec une signification statistique. Le site Web de PredictiveHire annonce déjà ce travail comme une évaluation des risques de vol qui est Bientôt disponible .

Le nouveau travail de PredictiveHire est un excellent exemple de ce que Nathan Newman considère comme l'un des plus grands impacts négatifs du big data sur le travail. Newman, professeur agrégé adjoint au John Jay College of Criminal Justice, a écrit dans un document juridique de 2017 qu'au-delà des préoccupations concernant la discrimination dans l'emploi, l'analyse des mégadonnées avait également été utilisée de multiples façons pour faire baisser les salaires des travailleurs.

Les tests de personnalité basés sur l'apprentissage automatique, par exemple, sont de plus en plus utilisés dans l'embauche pour écarter les employés potentiels qui ont une plus grande probabilité de faire campagne pour une augmentation de salaire ou de soutenir la syndicalisation. Les employeurs surveillent de plus en plus les e-mails, les chats et d'autres données des employés pour évaluer ceux qui pourraient partir et calculer l'augmentation de salaire minimale nécessaire pour les faire rester. Et les systèmes de gestion algorithmique comme celui d'Uber éloignent les travailleurs des bureaux et des espaces de réunion numériques qui leur permettent de se coordonner les uns avec les autres et d'exiger collectivement un meilleur traitement et un meilleur salaire.

Aucun de ces exemples ne devrait être surprenant, a soutenu Newman. Ils ne sont qu'une manifestation moderne de ce que les employeurs ont fait historiquement pour supprimer les salaires en ciblant et en dispersant les activités syndicales. L'utilisation des évaluations de la personnalité lors de l'embauche, qui remonte aux années 1930 aux États-Unis, a en fait commencé comme un mécanisme pour éliminer les personnes les plus susceptibles de devenir des organisateurs syndicaux. Les tests sont devenus particulièrement populaires dans les années 1960 et 1970, une fois que les psychologues organisationnels les ont affinés pour évaluer les travailleurs en fonction de leurs sympathies syndicales.

Dans ce contexte, l'évaluation des risques de combat de PredictiveHire n'est qu'un autre exemple de cette tendance. Le saut d'emploi, ou la menace de saut d'emploi, souligne Barocas, est l'un des principaux moyens par lesquels les travailleurs peuvent augmenter leurs revenus. L'entreprise a même construit son évaluation sur des tests de personnalité conçus par des psychologues organisationnels.

Barocas ne préconise pas nécessairement de jeter complètement les outils. Il pense que l'objectif d'améliorer l'embauche pour tout le monde est noble et pourrait être atteint si les régulateurs prescrivaient une plus grande transparence . Actuellement, aucun d'entre eux n'a reçu d'évaluation rigoureuse et révisée par des pairs, dit-il. Mais si les entreprises étaient plus ouvertes sur leurs pratiques et soumettaient leurs outils à une telle validation, cela pourrait aider à les tenir responsables. Cela pourrait également aider les chercheurs à s'engager plus facilement avec les entreprises pour étudier les impacts des outils sur le travail et la discrimination.

Malgré tout mon propre travail au cours des deux dernières années pour exprimer des inquiétudes à ce sujet, dit-il, je crois en fait que beaucoup de ces outils pourraient améliorer considérablement la situation actuelle.

cacher