Le problème de l'homme blanc d'IA ne va pas disparaître

Éric Gay/AP

Les chiffres racontent l'histoire du manque criant de diversité de l'industrie de l'IA. Les femmes ne représentent que 18 % des auteurs des principales conférences sur l'IA, 20 % des chaires d'IA et 15 % et 10 % du personnel de recherche de Facebook et Google, respectivement. La diversité raciale est encore pire : les travailleurs noirs ne représentent que 2,5 % de l'ensemble des effectifs de Google et 4 % de ceux de Facebook et Microsoft. Aucune donnée n'est disponible pour les personnes transgenres et les autres minorités de genre, mais il est peu probable que la tendance soit inversée là-bas non plus.

C'est profondément troublant alors que l'influence de l'industrie s'est considérablement accrue pour affecter tout, de l'embauche et du logement à la justice pénale et à l'armée. En cours de route, la technologie a automatisé les préjugés de ses créateurs avec un effet alarmant : dévaloriser les CV des femmes , perpétuant la discrimination en matière d' emploi et de logement , et consacrant des pratiques policières racistes et des condamnations en prison .

Ces conséquences ne feront qu'empirer sans une approche différente pour régler le problème, dit un nouveau rapport sorti cette semaine de l'institut de recherche AI ​​Now.

Le problème du manque de diversité dans la technologie [...] a atteint un point d'inflexion nouveau et urgent, a déclaré Meredith Whittaker, cofondatrice de l'institut, lors d'un appel à la presse accompagnant le rapport. Des millions de personnes ressentent les effets de ces outils et sont affectées par tout biais d'IA qui y est intégré.

L'équipe d'AI Now identifie deux raisons principales pour lesquelles les efforts visant à remédier au manque de diversité ont échoué. Premièrement, l'accent est mis sur l'augmentation du nombre de femmes dans la technologie et moins sur l'amélioration de la diversité des races, des sexes et d'autres qualités. Deuxièmement, l'accent est mis de manière disproportionnée sur la réparation du pipeline - l'idée d'augmenter le nombre de candidats issus de groupes sous-représentés qui passent des écoles à l'industrie. Cela tend à sous-estimer d'autres désavantages systémiques qui empêchent les femmes et les minorités de rester sur le terrain, tels que le harcèlement, les rémunérations injustes et les déséquilibres de pouvoir.

Les chercheurs proposent plusieurs recommandations pour améliorer la diversité en milieu de travail de manière plus globale. Il s'agit notamment de mesures visant à combler l'écart de rémunération et d'opportunités, à accroître la diversité aux niveaux de direction dans tous les départements et à modifier les structures d'incitation des dirigeants d'entreprise à embaucher et à retenir des travailleurs issus de groupes sous-représentés.

Mais le problème est également plus profond que les pratiques d'embauche et de rémunération, explique Jessie Daniels, chercheuse chez Data & Society, qui étudie l'intersection du racisme et de la technologie et n'a pas été impliquée dans le rapport. L'industrie de la technologie a été fondamentalement construite sur la philosophie selon laquelle la technologie existe indépendamment de la société, dit-elle : Au début des années 90, il y avait cette idée qu'Internet allait nous libérer de choses comme la race, le sexe et l'infirmité ; l'idée que nous allions aller dans cet endroit appelé 'cyberespace' où nous n'aurions plus à penser à l'incarnation ou à l'identité.

Cette idée est restée dans l'industrie à ce jour et est à l'origine à la fois des échecs répétés pour accroître la diversité des employés et des scandales répétés autour des biais de l'IA. Les entreprises technologiques sont construites - et les produits technologiques sont conçus - avec la croyance imaginaire qu'elles existent indépendamment du sexisme, du racisme et du contexte sociétal qui les entoure.

Ce n'est pas un bug, dit Daniels. C'est une fonctionnalité.

cacher