Les problèmes de l'IA aujourd'hui remontent à des siècles

Ari Liloan

En mars 2015, des manifestations ont éclaté à l'Université du Cap en Afrique du Sud contre la statue du campus du colonialiste britannique Cecil Rhodes. Rhodes, un magnat des mines qui avait fait don du terrain sur lequel l'université avait été construite, avait commis un génocide contre les Africains et jeté les bases de l'apartheid. Sous la bannière de ralliement de Rhodes Must Fall, les étudiants ont exigé que la statue soit enlevée. Leurs protestations ont déclenché un mouvement mondial pour éradiquer les héritages coloniaux qui perdurent dans l'éducation.

Les événements ont également incité Shakir Mohamed, un chercheur sud-africain en intelligence artificielle à DeepMind, à réfléchir sur les héritages coloniaux qui pourraient également exister dans ses recherches. En 2018, alors que le domaine de l'IA commençait à prendre en compte des problèmes tels que la discrimination algorithmique, Mohamed a écrit un article de blog avec ses premières réflexions. Dans ce document, il a appelé les chercheurs à décoloniser l'intelligence artificielle - à réorienter le travail du domaine loin des centres occidentaux comme la Silicon Valley et à engager de nouvelles voix, cultures et idées pour guider le développement de la technologie.

Maintenant à la suite de cris renouvelés pour Rhodes Must Fall sur le campus de l'Université d'Oxford, stimulé par le meurtre de George Floyd et le mouvement antiraciste mondial, Mohamed a a publié un nouveau papier avec son collègue William Isaac et la candidate au doctorat d'Oxford Marie-Therese Png. Il étoffe les idées originales de Mohamed avec des exemples spécifiques de la façon dont les défis de l'IA sont enracinés dans le colonialisme, et présente des stratégies pour y faire face en reconnaissant cette histoire.

Comment la colonialité se manifeste dans l'IA

Bien que le colonialisme historique soit terminé, ses effets existent encore aujourd'hui. C'est ce que les spécialistes appellent la colonialité : l'idée que les déséquilibres de pouvoir modernes entre les races, les pays, les riches et les pauvres, et d'autres groupes sont des extensions des déséquilibres de pouvoir entre colonisateur et colonisé.

Prenons l'exemple du racisme structurel. Les Européens ont à l'origine inventé le concept de races et les différences entre elles pour justifier la traite des esclaves africains puis la colonisation des pays africains. Aux États-Unis, les effets de cette idéologie peuvent désormais être retracés à travers l'histoire de l'esclavage, de Jim Crow et de la brutalité policière.

De la même manière, selon les auteurs de l'article, cette histoire coloniale explique certaines des caractéristiques et des impacts les plus troublants de l'IA. Ils identifient cinq manifestations de la colonialité sur le terrain :

Discrimination algorithmique et oppression. Les liens entre la discrimination algorithmique et le racisme colonial sont peut-être les plus évidents : les algorithmes conçus pour automatiser les procédures et formés sur des données au sein d'une société racialement injuste finissent par reproduire ces résultats racistes dans leurs résultats. Mais une grande partie de la recherche sur ce type de préjudice causé par l'IA se concentre sur des exemples aux États-Unis. L'examiner dans le contexte de la colonialité permet d'avoir une perspective globale : l'Amérique n'est pas le seul endroit avec des inégalités sociales. Il y a toujours des groupes qui sont identifiés et soumis, dit Isaac.

Travail fantôme. Le phénomène de travail fantôme , le travail de données invisible nécessaire pour soutenir l'innovation en matière d'IA, prolonge nettement la relation économique historique entre colonisateur et colonisé. De nombreuses anciennes colonies américaines et britanniques - les Philippines, le Kenya et l'Inde - sont devenues des centres de travail fantômes pour les entreprises américaines et britanniques. La main-d'œuvre bon marché et anglophone des pays, qui en fait un candidat naturel pour le travail sur les données, existe en raison de leur histoire coloniale.

Tests bêta. Les systèmes d'IA sont parfois testés sur des groupes plus vulnérables avant d'être mis en œuvre pour de vrais utilisateurs. Cambridge Analytica, par exemple, a testé en version bêta ses algorithmes sur les élections nigérianes de 2015 et kenyanes de 2017 avant de les utiliser aux États-Unis et au Royaume-Uni. Des études ont montré plus tard que ces expériences activement perturbé le processus électoral au Kenya et a érodé la cohésion sociale. Ce type de test fait écho au traitement historique par l'Empire britannique de ses colonies en tant que laboratoires de nouveaux médicaments et technologies.

Gouvernance de l'IA. Les déséquilibres de pouvoir géopolitique laissés par l'ère coloniale façonnent également activement la gouvernance de l'IA. Cela s'est joué dans la récente ruée vers l'élaboration de lignes directrices mondiales sur l'éthique de l'IA : les pays en développement d'Afrique, d'Amérique latine et d'Asie centrale ont été largement exclus des discussions, ce qui a conduit certains à refuser de participer aux accords internationaux sur les flux de données . Résultat : les pays développés continuent de bénéficier de manière disproportionnée des normes mondiales conçues à leur avantage, tandis que les pays en développement continuent de prendre du retard.

Développement social international. Enfin, les mêmes déséquilibres de pouvoir géopolitique affectent la manière dont l'IA est utilisée pour aider les pays en développement. Les initiatives d'IA pour le bien ou d'IA pour le développement durable sont souvent paternalistes. Ils obligent les pays en développement à dépendre des systèmes d'IA existants plutôt que de participer à la création de nouveaux systèmes conçus pour leur propre contexte.

Les chercheurs notent que ces exemples ne sont pas complets, mais ils démontrent à quel point les héritages coloniaux sont considérables dans le développement mondial de l'IA. Ils relient également ce qui semble être des problèmes disparates sous une thèse unificatrice. Cela nous permet d'avoir une nouvelle grammaire et un nouveau vocabulaire pour parler à la fois de l'importance de ces problèmes et de ce que nous allons faire pour y réfléchir et les résoudre à long terme, déclare Isaac.

Comment construire une IA décoloniale

Selon les chercheurs, l'avantage d'examiner les effets néfastes de l'IA à travers cette lentille est le cadre qu'il fournit pour prédire et atténuer les dommages futurs. Png pense qu'il n'y a vraiment pas de conséquences imprévues - juste les conséquences des angles morts que les organisations et les instituts de recherche ont lorsqu'ils manquent de représentation diversifiée.

Dans cette veine, les chercheurs proposent trois techniques pour parvenir à une IA décoloniale, ou plus inclusive et bénéfique :

Développement technique sensible au contexte. Premièrement, les chercheurs en IA qui construisent un nouveau système doivent déterminer où et comment il sera utilisé. Leur travail ne devrait pas non plus se terminer par l'écriture du code, mais devrait inclure le test, le soutien des politiques qui facilitent ses utilisations appropriées et l'organisation d'actions contre celles qui sont inappropriées.

Tutelle inversée. Deuxièmement, ils doivent écouter les groupes marginalisés. Un exemple de la façon de procéder est la pratique naissante de apprentissage automatique participatif , qui vise à impliquer les personnes les plus concernées par les systèmes d'apprentissage automatique dans leur conception. Cela donne aux sujets une chance de contester et de dicter comment les problèmes d'apprentissage automatique sont encadrés, quelles données sont collectées et comment et où les modèles finaux sont utilisés.

Solidarité. Les groupes marginalisés devraient également recevoir le soutien et les ressources nécessaires pour lancer leur propre travail d'IA. Plusieurs communautés de praticiens de l'IA marginalisés existent déjà, y compris Apprentissage en profondeur Indaba , Noir en IA , et Queer en IA , et leur travail devrait être amplifié.

Depuis la publication de leur article, disent les chercheurs, ils ont constaté un intérêt et un enthousiasme débordants. Cela me signale au moins qu'il y a une réceptivité à ce travail, dit Isaac. On dirait que c'est une conversation avec laquelle la communauté veut commencer à s'engager.

cacher