211service.com
Les vrais dangers de l'IA sont plus proches qu'on ne le pense
Oubliez l'IA super intelligente : les algorithmes créent déjà de réels dommages. La bonne nouvelle : la riposte a commencé.
21 octobre 2020
William Isaac a commencé ses recherches sur les biais dans les algorithmes de police prédictive en 2016. David Vigneron
Depuis que les humains construisent des machines, nous craignons le jour où ils pourraient nous détruire. Stephen Hawking a averti que l'IA pourrait sonner le glas de la civilisation. Mais pour de nombreux chercheurs en IA, ces conversations semblent non amarrées. Ce n'est pas qu'ils ne craignent pas que l'IA se déchaîne, c'est qu'ils le voient déjà se produire, mais pas de la manière dont la plupart des gens s'y attendraient.
AI sélectionne maintenant les candidats à un emploi, diagnostique les maladies et identifie les suspects criminels. Mais au lieu de rendre ces décisions plus efficaces ou justes, il perpétue souvent les préjugés des humains sur les décisions desquels il a été formé.
Cette histoire faisait partie de notre numéro de novembre 2020
- Voir la suite du problème
- S'abonner
William Isaac est chercheur principal au sein de l'équipe éthique et société de DeepMind, une startup en IA acquise par Google en 2014. Il copréside également la conférence Fairness, Accountability, and Transparency, le premier rassemblement annuel d'experts en IA, de spécialistes des sciences sociales, et les avocats travaillant dans ce domaine. Je lui ai posé des questions sur les défis actuels et potentiels auxquels est confronté le développement de l'IA, ainsi que sur les solutions.
Q : Devrions-nous nous inquiéter de l'IA super intelligente ?
R : Je veux déplacer la question. Les menaces se chevauchent, qu'il s'agisse de la police prédictive et de l'évaluation des risques à court terme, ou de systèmes plus évolutifs et avancés à plus long terme. Beaucoup de ces questions ont également une base dans l'histoire. Les risques potentiels et les façons de les aborder ne sont donc pas aussi abstraits qu'on le pense.
Il y a trois domaines que je veux signaler. La plus urgente est probablement cette question sur l'alignement des valeurs : comment concevoir réellement un système capable de comprendre et de mettre en œuvre les différentes formes de préférences et de valeurs d'une population ? Au cours des dernières années, nous avons vu des décideurs politiques, l'industrie et d'autres tenter d'intégrer des valeurs dans des systèmes techniques à grande échelle, dans des domaines tels que la police prédictive, les évaluations des risques, l'embauche, etc. Il est clair qu'ils présentent une certaine forme de biais. qui reflète la société. Le système idéal équilibrerait tous les besoins de nombreux intervenants et de nombreux membres de la population. Mais comment la société concilie-t-elle sa propre histoire avec ses aspirations ? Nous luttons toujours avec les réponses, et cette question va devenir exponentiellement plus compliquée. Résoudre ce problème n'est pas seulement quelque chose pour l'avenir, mais pour l'ici et maintenant.
Le deuxième serait d'obtenir des avantages sociaux démontrables. Jusqu'à présent, il existe encore peu de preuves empiriques qui valident que les technologies d'IA apporteront les avantages sociaux à grande échelle auxquels nous aspirons.
Enfin, je pense que la plus grande préoccupation de quiconque travaille dans l'espace est la suivante : quels sont les mécanismes solides de surveillance et de responsabilité.
Q : Comment surmontons-nous ces risques et défis ?
A: Trois domaines iraient un long chemin. Le premier est de construire un muscle collectif pour une innovation et une surveillance responsables. Assurez-vous que vous réfléchissez à l'endroit où les formes de désalignement, de parti pris ou de préjudice existent. Assurez-vous de développer de bons processus pour vous assurer que tous les groupes sont engagés dans le processus de conception technologique. Les groupes historiquement marginalisés ne sont souvent pas ceux dont les besoins sont satisfaits. La façon dont nous concevons les processus pour y parvenir est donc importante.
La seconde est d'accélérer le développement des outils sociotechniques pour faire réellement ce travail. Nous n'avons pas beaucoup d'outils.
Le dernier est de fournir plus de financement et de formation aux chercheurs et aux praticiens, en particulier les chercheurs et les praticiens de la couleur, pour mener à bien ce travail. Pas seulement dans l'apprentissage automatique, mais aussi dans les STS [science, technologie et société] et les sciences sociales. Nous voulons non seulement avoir quelques individus, mais une communauté de chercheurs pour vraiment comprendre l'éventail des dommages potentiels que posent les systèmes d'IA et comment les atténuer avec succès.
Q : Jusqu'où les chercheurs en IA ont-ils réfléchi à ces défis, et jusqu'où doivent-ils encore aller ?
R : En 2016, je me souviens, la Maison Blanche venait de publier un rapport sur les mégadonnées, et il y avait un fort sentiment d'optimisme quant à la possibilité d'utiliser les données et l'apprentissage automatique pour résoudre certains problèmes sociaux insolubles. Simultanément, il y avait des chercheurs dans la communauté universitaire qui avaient signalé dans un sens très abstrait : Hé, il y a des dommages potentiels qui pourraient être causés par ces systèmes. Mais ils n'avaient en grande partie pas interagi du tout. Ils existaient dans des silos uniques.
Depuis lors, nous avons eu beaucoup plus de recherches ciblant cette intersection entre les failles connues des systèmes d'apprentissage automatique et leur application à la société. Et une fois que les gens ont commencé à voir cette interaction, ils ont réalisé : d'accord, ce n'est pas seulement un risque hypothétique. C'est une vraie menace. Donc, si vous visualisez le domaine en phases, la première phase mettait en évidence et faisait ressortir que ces préoccupations étaient réelles. La deuxième phase commence maintenant à s'attaquer à des questions systémiques plus larges.
Q : Êtes-vous donc optimiste quant à la réalisation d'une IA bénéfique à grande échelle ?
R : Je le suis. Ces dernières années m'ont donné beaucoup d'espoir. Prenons l'exemple de la reconnaissance faciale. Il y a eu l'excellent travail de Joy Buolamwini, Timnit Gebru et Deb Raji pour faire apparaître les disparités intersectionnelles dans la précision des systèmes de reconnaissance faciale [c'est-à-dire, montrer que ces systèmes étaient beaucoup moins précis sur les visages féminins noirs que sur les visages masculins blancs]. Il y a le plaidoyer qui s'est produit dans la société civile pour monter une défense rigoureuse des droits de l'homme contre l'application abusive de la reconnaissance faciale. Et aussi l'excellent travail que les décideurs politiques, les régulateurs et les groupes communautaires de la base faisaient pour communiquer exactement ce qu'étaient les systèmes de reconnaissance faciale et les risques potentiels qu'ils posaient, et pour exiger des éclaircissements sur les avantages pour la société. C'est un modèle de la façon dont nous pourrions imaginer nous engager avec d'autres avancées de l'IA.
Mais le défi avec la reconnaissance faciale est que nous avons dû trancher ces questions d'éthique et de valeurs pendant que nous déployions publiquement la technologie. À l'avenir, j'espère que certaines de ces conversations auront lieu avant que les dommages potentiels n'apparaissent.
Q : De quoi rêvez-vous lorsque vous rêvez de l'avenir de l'IA ?
A: Cela pourrait être un excellent égaliseur. Comme si vous aviez des enseignants ou des tuteurs en IA qui pourraient être disponibles pour les étudiants et les communautés où l'accès à l'éducation et aux ressources est très limité, ce serait très stimulant. Et c'est une chose non triviale à attendre de cette technologie. Comment savez-vous que c'est stimulant ? Comment savez-vous que c'est socialement bénéfique?
J'ai fait des études supérieures dans le Michigan pendant la crise de l'eau à Flint. Lorsque les premières incidences de conduites en plomb sont apparues, les enregistrements qu'ils avaient de l'emplacement des systèmes de tuyauterie se trouvaient sur des fiches au bas d'un bâtiment administratif. Le manque d'accès aux technologies les a considérablement désavantagés. Cela signifie que les personnes qui ont grandi dans ces communautés, dont plus de 50% sont afro-américaines, ont grandi dans un environnement où elles ne bénéficient pas des services et des ressources de base.
La question est donc : si elles sont utilisées de manière appropriée, ces technologies pourraient-elles améliorer leur niveau de vie ? L'apprentissage automatique a pu identifier et prédire où se trouvaient les tuyaux en plomb, ce qui a réduit les coûts de réparation réels pour la ville. Mais c'était une entreprise énorme, et c'était rare. Et comme nous le savons, Flint n'a toujours pas enlevé tous les tuyaux, il y a donc aussi des défis politiques et sociaux - l'apprentissage automatique ne les résoudra pas tous. Mais l'espoir est que nous développions des outils qui responsabilisent ces communautés et apportent des changements significatifs dans leur vie. C'est ce à quoi je pense lorsque nous parlons de ce que nous construisons. C'est ce que je veux voir.