211service.com
Comment combattre la haine en ligne
La scientifique des données Jennifer Chayes pense que nous pouvons utiliser des outils informatiques pour éliminer les mauvais comportements en ligne.
27 octobre 2021
Christie Là Klok
Pendant son séjour chez Microsoft et dans le milieu universitaire, Jennifer Chayes s'est battue pour utiliser la science des données et l'informatique pour rendre l'intelligence artificielle plus juste et moins biaisée.
D'avoir abandonné l'école à l'âge de 15 ans pour devenir le doyen de la science des données à l'Université de Californie à Berkeley, Chayes a eu tout un cheminement de carrière. Elle a rejoint l'UCLA en 1987 en tant que professeur titulaire de mathématiques. Dix ans plus tard, Microsoft l'a séduite pour cofonder son groupe interdisciplinaire de théorie de la recherche.
Cette histoire faisait partie de notre numéro de novembre 2021
- Voir la suite du problème
- S'abonner
C'est dans son laboratoire Microsoft à New York que des chercheurs ont découvert des biais dans le logiciel de reconnaissance faciale de l'entreprise, montrant que le système classait les visages blancs plus précisément que les visages bruns et noirs. Cette découverte a amené l'entreprise à refuser un contrat lucratif avec un service de police et à commencer à travailler pour éliminer le biais de ces algorithmes. le Groupe FATE (équité, responsabilité, transparence et éthique en IA) a été créé au laboratoire.
Anil Ananthaswamy a demandé Chayes, désormais prévôt associé de la Division de l'informatique, de la science des données et de la société et doyen de la School of Information de Berkeley, comment la science des données transforme l'informatique et d'autres domaines.
Q : Comment s'est passée la transition de l'université à l'industrie ?
R : C'était un sacré choc. Le vice-président de la recherche chez Microsoft, Dan Ling, m'a appelé pour essayer de me convaincre d'aller à un entretien. Je lui ai parlé pendant environ 40 minutes. Et j'ai finalement dit, tu veux vraiment savoir ce qui me tracasse ? Microsoft est une bande d'adolescents et je ne veux pas passer ma vie avec une bande d'adolescents.
Q : Comment a-t-il réagi à cela ?
A: Il a dit, Oh, non, nous ne le sommes pas. Venez nous rencontrer. J'y ai rencontré des femmes incroyables lors de ma visite, et j'ai rencontré des gens d'une ouverture d'esprit phénoménale qui voulaient essayer des choses pour changer le monde.
Q : Comment la science des données a-t-elle changé l'informatique ?
À: Au fur et à mesure que nous avons obtenu plus de données, l'informatique a commencé à se tourner vers l'extérieur. Je considère la science des données comme un mariage de l'informatique, des statistiques, de l'éthique et d'un domaine ou d'une discipline, que ce soit la biomédecine et la santé, le climat et la durabilité, ou le bien-être humain et la justice sociale, etc. Il transforme l'informatique.
Q : Y a-t-il une différence dans la façon dont les data scientists résolvent les problèmes ?
R : Avec l'avènement de toutes ces données, nous avons la possibilité d'apprendre à partir des données sans avoir de théorie sur la raison pour laquelle quelque chose se passe. Surtout à l'ère de l'apprentissage automatique et de l'apprentissage en profondeur, cela nous permet de tirer des conclusions et de faire des prédictions sans théorie sous-jacente.
Q : Cela peut-il causer des problèmes ?
À: Certains considèrent que c'est un problème dans les cas où vous avez, [par exemple], des données biomédicales. Les données prédisent très précisément ce qui va fonctionner et ce qui ne va pas fonctionner, sans mécanisme biologique sous-jacent.
Q : Des avantages ?
À: Ce que les données nous ont permis de faire maintenant, dans de nombreux cas, c'est d'exécuter ce qu'un économiste appellerait un contrefactuel, où vous voyez en fait une variation aléatoire dans les données qui vous permet de tirer des conclusions sans faire les expériences. C'est incroyablement utile.
Est-ce que je veux vraiment essayer différentes éducations sur différentes populations ? Ou est-ce que je veux voir [qu'il] y a eu une variation aléatoire à un moment donné qui me permettra de tirer une très bonne inférence causale, et donc je peux fonder une politique là-dessus ?
Q : Voyez-vous un problème dans la manière dont les données sont utilisées, en particulier par les grandes entreprises ?
R : Il y a une myriade de problèmes. Il n'est pas seulement utilisé par les entreprises technologiques. Il est utilisé par les compagnies d'assurance. Il est utilisé par les plateformes gouvernementales, les plateformes de santé publique et les plateformes éducatives. Si vous ne comprenez pas explicitement quels biais peuvent s'infiltrer, à la fois dans les ensembles de données eux-mêmes et dans les algorithmes, vous exacerberez probablement les biais.
Ces biais se faufilent [quand] il n'y a pas beaucoup de données. Et cela peut aussi être corrélé avec d'autres facteurs. J'ai personnellement travaillé sur l'interprétation automatique des biographies et des CV. Nous ne sommes pas autorisés à utiliser le sexe ou la race. Même si je ne regarde pas [ces] attributs protégés, il y a beaucoup de choses [dans les données] qui sont des procurations pour le sexe ou la race. Si vous avez fréquenté certaines écoles, si vous avez grandi dans certains quartiers, si vous avez pratiqué certains sports et pratiqué certaines activités, elles sont corrélées [au sexe ou à la race].
Q : Les algorithmes détectent-ils ces proxys ?
À: Ils l'aggravent. Vous devez explicitement comprendre cela et vous devez explicitement l'empêcher en écrivant l'algorithme.
Q : Comment pouvons-nous résoudre ces problèmes ?
À: Il y a tout ce domaine du FATE : équité, responsabilité, transparence et éthique dans l'IA, qui est la conception de ces algorithmes et la compréhension de ce qu'ils sont. Mais il y a tellement plus que nous devons faire.
Q : Et la science des données aide ?
R : C'est absolument de la science des données. Il y a une partie du Web appelée la manosphère, d'où provient beaucoup de haine. C'est un peu difficile à retracer. Mais si vous utilisez le traitement du langage naturel et d'autres outils, vous pouvez voir d'où cela vient. Vous pouvez également essayer de créer des interfaces qui permettent aux groupes de défense et à d'autres de trouver cela et d'aider à le déraciner. Cela va au-delà du simple fait d'être juste. Cela renverse les rôles sur la manière dont ces plateformes ont été usurpées pour augmenter les préjugés et la haine et dire : Nous allons utiliser la puissance de l'informatique et de la science des données pour identifier et atténuer la haine.