211service.com
Comment éliminer les biais cachés de l'IA
Les algorithmes prennent des décisions qui changent la vie, comme refuser la libération conditionnelle ou accorder des prêts. Cynthia Dwork, informaticienne à Harvard, développe des moyens de s'assurer que les machines fonctionnent correctement. 24 octobre 2017
Miguel Porlan
Pourquoi est-il difficile pour les concepteurs d'algorithmes ou les data scientists de tenir compte des biais et des injustices ?
Prenez un environnement de travail hostile aux femmes. Supposons que vous définissiez le succès comme le fait qu'une personne occupe un emploi pendant deux à trois ans et obtienne une promotion. Ensuite, votre prédicteur, basé sur les données historiques, prédira avec précision que ce n'est pas une bonne idée d'embaucher des femmes. Ce qui est intéressant ici, c'est que nous ne parlons pas de décisions d'embauche historiques. Même si les décisions d'embauche étaient totalement impartiales, la réalité - la véritable discrimination dans l'environnement hostile - persiste. C'est plus profond, plus structurel, plus enraciné et plus difficile à surmonter.
Cette histoire faisait partie de notre numéro de novembre 2017
- Voir la suite du problème
- S'abonner
Je pense que l'apprentissage automatique et l'IA seront très utiles en collaboration avec des personnes très compétentes qui connaissent l'histoire, la sociologie et la psychologie pour déterminer qui doit être traité de la même manière que qui.
Je ne dis pas que les ordinateurs ne pourront jamais le faire, mais je ne le vois pas maintenant. Comment savoir quand vous avez le bon modèle et quand il capture ce qui s'est réellement passé dans la société ? Vous devez comprendre de quoi vous parlez. Il y a le célèbre dicton Tous les modèles sont faux et certains sont utiles.
— comme dit à Will Knight