Les groupes d'éthique de l'IA répètent l'une des erreurs classiques de la société

Getty

Les organisations internationales et les entreprises se précipitent pour élaborer des lignes directrices mondiales pour l'utilisation éthique de l'intelligence artificielle. Déclarations, manifestes et recommandations inondent Internet. Mais ces efforts seront vains s'ils ne tiennent pas compte des contextes culturels et régionaux dans lesquels l'IA opère.

Il a été démontré à plusieurs reprises que les systèmes d'IA causent des problèmes qui affectent de manière disproportionnée les groupes marginalisés tout en bénéficiant à quelques privilégiés. Les efforts mondiaux en matière d'éthique de l'IA en cours aujourd'hui - il y en a des dizaines - visent à aider tout le monde à bénéficier de cette technologie et à l'empêcher de causer des dommages. D'une manière générale, ils le font en créant des lignes directrices et des principes que les développeurs, les bailleurs de fonds et les régulateurs doivent suivre. Ils peuvent, par exemple, recommander des audits internes de routine ou exiger des protections pour les informations personnellement identifiables des utilisateurs.

Nous croyons que ces groupes sont bien intentionnés et font un travail valable. La communauté de l'IA devrait en effet s'entendre sur un ensemble de définitions et de concepts internationaux pour une IA éthique. Mais sans plus de représentation géographique, ils produiront une vision globale de l'éthique de l'IA qui reflète les points de vue des personnes dans seulement quelques régions du monde, en particulier l'Amérique du Nord et le nord-ouest de l'Europe.

Ce travail n'est ni facile ni direct. L'équité, la confidentialité et la partialité signifient différentes choses (pdf) dans différents endroits. Les gens ont également des attentes disparates à l'égard de ces concepts en fonction de leurs propres réalités politiques, sociales et économiques. Les défis et les risques posés par l'IA diffèrent également en fonction de la région.

Si les organisations travaillant sur l'éthique mondiale de l'IA ne le reconnaissent pas, elles risquent de développer des normes qui sont, au mieux, dénuées de sens et inefficaces dans toutes les régions du monde. Au pire, ces normes défectueuses conduiront à davantage de systèmes et d'outils d'IA qui perpétuent les préjugés existants et sont insensibles aux cultures locales.

En 2018, par exemple, Facebook a été lent à agir sur la désinformation propagation au Myanmar qui a finalement conduit à des violations des droits de l'homme. Une évaluation (pdf) payé par la société a constaté que cette surveillance était due en partie aux directives communautaires et aux politiques de modération du contenu de Facebook, qui ne tenaient pas compte des réalités politiques et sociales du pays.

Il y a un manque évident de diversité régionale dans de nombreux conseils consultatifs, groupes d'experts et conseils sur l'IA.

Pour prévenir de tels abus, les entreprises travaillant sur des directives éthiques pour les systèmes et outils alimentés par l'IA doivent engager des utilisateurs du monde entier pour aider à créer des normes appropriées pour régir ces systèmes. Ils doivent également être conscients de la manière dont leurs politiques s'appliquent dans différents contextes.

Malgré les risques, il y a un manque évident de diversité régionale dans de nombreux conseils consultatifs, groupes d'experts et conseils d'IA nommés par les principales organisations internationales. le groupe consultatif d'experts pour le projet AI for Children de l'Unicef, par exemple, n'a pas de représentants des régions concentration la plus élevée d'enfants et de jeunes adultes, notamment au Moyen-Orient, en Afrique et en Asie.

Malheureusement, dans l'état actuel des choses, l'ensemble du domaine de l'éthique de l'IA risque fort de se limiter aux langues, aux idées, aux théories et aux défis d'une poignée de régions, principalement l'Amérique du Nord, l'Europe occidentale et l'Asie de l'Est.

Ce manque de diversité régionale reflète la situation actuelle concentration de la recherche en IA (pdf)  : 86 % des articles publiés lors de conférences sur l'IA en 2018 ont été attribués à des auteurs d'Asie de l'Est, d'Amérique du Nord ou d'Europe. Et moins de 10% des références répertoriées dans les articles sur l'IA publiés dans ces régions concernent des articles d'une autre région. Les brevets sont également très concentrés : 51 % des brevets en IA publiés en 2018 sont attribués à l'Amérique du Nord.

Ceux d'entre nous qui travaillent dans le domaine de l'éthique de l'IA feront plus de mal que de bien si nous permettons au manque de diversité géographique du domaine de définir nos propres efforts. Si nous ne faisons pas attention, nous pourrions finir par codifier les biais historiques de l'IA en directives qui déforment la technologie pour les générations à venir. Nous devons commencer à donner la priorité aux voix des pays à revenu faible et intermédiaire ( surtout t tuyau dans le monde Sud ) et ceux issus de communautés historiquement marginalisées.

Les progrès technologiques ont souvent profité à l'Occident tout en exacerbant les inégalités économiques, l'oppression politique et la destruction de l'environnement ailleurs. Inclure les pays non occidentaux dans l'éthique de l'IA est le meilleur moyen d'éviter de répéter ce schéma.

Histoire connexe

Le lavage participatif pourrait être la prochaine mode dangereuse de l'apprentissage automatique De nombreuses personnes participent déjà au travail de terrain sans reconnaissance ni rémunération.

La bonne nouvelle est qu'il existe de nombreux experts et dirigeants de régions sous-représentées à inclure dans ces groupes consultatifs. Cependant, de nombreuses organisations internationales ne semblent pas faire beaucoup d'efforts pour solliciter la participation de ces personnes. Le nouvellement formé Consortium mondial d'éthique de l'IA , par exemple, n'a pas de membres fondateurs représentant des institutions universitaires ou des centres de recherche du Moyen-Orient, d'Afrique ou d'Amérique latine. Cette omission est un exemple frappant de motifs coloniaux (pdf) se répétant.

Si nous voulons construire des systèmes d'IA éthiques, sûrs et inclusifs plutôt que de nous engager dans lavage éthique , nous devons d'abord instaurer la confiance avec ceux qui ont été historiquement lésés par ces mêmes systèmes. Cela commence par un engagement significatif.

Au Institut d'éthique en IA de Montréal , où nous travaillons tous les deux, nous essayons d'adopter une approche différente. Nous organisons des rencontres sur l'éthique de l'IA numérique, qui sont des discussions ouvertes auxquelles toute personne disposant d'une connexion Internet ou d'un téléphone peut participer. Au cours de ces événements, nous avons rencontré un groupe diversifié de personnes, allant d'un professeur vivant à Macao à un étudiant universitaire étudiant à Mumbai.

Pendant ce temps, des groupes comme le Partenariat sur l'IA, reconnaissant le manque de diversité géographique dans l'IA plus largement, ont changements recommandés aux lois sur les visas et aux politiques proposées qui facilitent les déplacements des chercheurs et le partage de leurs travaux. Maskhane , une organisation de base, rassemble des chercheurs africains en traitement du langage naturel pour renforcer le travail de traduction automatique qui a négligé les langues non dominantes.

Il est encourageant de voir des organisations internationales essayer d'inclure des perspectives plus diverses dans leurs discussions sur l'IA. Il est important pour nous tous de nous rappeler que la diversité régionale et culturelle est la clé de toute conversation sur l'éthique de l'IA. Faire de l'IA responsable la norme plutôt que l'exception est impossible sans la voix de personnes qui ne détiennent pas déjà le pouvoir et l'influence.

À bhishek Gupta est le fondateur de la Institut d'éthique en IA de Montréal et ingénieur en apprentissage automatique chez Microsoft, où il siège au conseil d'administration de CSE Responsible AI. Victoria Heath est chercheur au Institut d'éthique en IA de Montréal et chercheur principal au Association canadienne de l'OTAN .

cacher