L'industrie de l'embauche d'IA est sous surveillance, mais ce sera difficile à réparer

Catégorie: Politique technique Posté 7 novembre

L'Electronic Privacy Information Center (EPIC) a a demandé à la Federal Trade Commission d'enquêter sur HireVue , un outil d'intelligence artificielle qui aide les entreprises à déterminer quels travailleurs embaucher.

Qu'est-ce que HireVue ? HireVue fait partie d'un nombre croissant d'outils d'intelligence artificielle que les entreprises utilisent pour évaluer les candidats à un emploi. L'algorithme analyse les entretiens vidéo, en utilisant tout, du choix des mots aux mouvements du visage, pour déterminer un score d'employabilité qui est comparé à celui des autres candidats. Plus de 100 entreprises l'ont déjà utilisé sur plus d'un million de candidats, selon le Washington Post .

Quel est le problème? Il est difficile de prédire quels travailleurs réussiront à partir de choses comme les expressions faciales. Pire encore, les critiques craignent que l'algorithme soit formé sur des données limitées et qu'il soit donc plus susceptible de marquer les candidats traditionnels (blancs, hommes) comme plus employables. En conséquence, les candidats qui s'écartent de la tradition - y compris les personnes qui ne parlent pas l'anglais comme langue maternelle ou qui sont handicapés - sont susceptibles d'obtenir des scores inférieurs, les experts disent . De plus, cela encourage les candidats à jouer avec le système en s'entretenant d'une manière qu'ils savent que HireVue aimera.

Et après? Les outils d'embauche d'IA ne sont pas bien réglementés et il sera difficile de résoudre le problème pour plusieurs raisons.

— La plupart des entreprises ne publieront pas leurs données ou n'expliqueront pas le fonctionnement des algorithmes, il est donc très difficile de prouver un quelconque biais. C'est en partie la raison pour laquelle il n'y a pas eu de poursuites majeures jusqu'à présent. La plainte EPIC, qui suggère que la promesse de HireVue viole les règles de la FTC contre les pratiques déloyales et trompeuses, est un début. Mais il n'est pas clair si quelque chose se passera. La FTC a reçu la plainte mais n'a pas dit si elle la poursuivrait.

—D'autres tentatives pour prévenir les préjugés sont bien intentionnées mais limitées. Plus tôt cette année, les législateurs de l'Illinois ont adopté une loi obligeant les employeurs à dites au moins aux demandeurs d'emploi qu'ils utiliseront ces algorithmes et d'obtenir leur consentement. Mais ce n'est pas très utile. Beaucoup de gens sont susceptibles de consentir simplement parce qu'ils ne veulent pas perdre l'occasion.

—Enfin, tout comme l'IA dans la santé ou l'IA dans la salle d'audience, l'intelligence artificielle dans l'embauche va recréer les préjugés de la société, ce qui est un problème compliqué. Les régulateurs devront déterminer le degré de responsabilité que les entreprises devraient assumer pour éviter les erreurs d'une société aux préjugés.