Que peuvent apprendre les experts en IA du bouddhisme ? Une nouvelle approche de l'éthique de l'apprentissage automatique vise à découvrir

Catégorie: Intelligence artificielle Posté 15 décembre

Les progrès rapides de l'IA ont donné naissance à un certain nombre d'initiatives récentes visant à convaincre les ingénieurs, les programmeurs et d'autres personnes de donner la priorité aux considérations éthiques dans leur travail, mais presque toutes ont vu le jour dans les pays occidentaux riches. Un effort de l'immense association d'ingénieurs IEEE tente maintenant de changer cela, avec sa propre proposition d'éthique de l'IA qui, selon elle, sera une collaboration mondiale et multilingue.

Au cours des deux dernières années seulement, une série de nouveaux efforts pour explorer l'éthique dans l'IA ont été lancés, notamment l'OpenAI à but non lucratif soutenu par Elon Musk, l'alliance d'entreprises Partnership on AI, le centre de recherche sur l'éthique de l'IA de l'Université Carnegie Mellon et le centre de recherche Ethics & Society. unité de la filiale d'intelligence artificielle de Google, DeepMind.

Mais la plupart de ces projets sont basés aux États-Unis ou au Royaume-Uni, sont dirigés par un petit groupe de chercheurs et ne publient des mises à jour qu'en anglais, ce qui pourrait limiter leur capacité à favoriser une IA qui profite à toute l'humanité, pas seulement à ceux des pays développés.

Depuis 2016, un groupe appelé le Initiative mondiale IEEE pour les considérations éthiques dans l'intelligence artificielle et les systèmes autonomes a rédigé un document intitulé Ethically Aligned Design qui recommande des directives sociétales et politiques pour des technologies telles que les chatbots et les robots domestiques. Cette semaine, le groupe a dévoilé une version mise à jour du document qui intègre les commentaires des personnes en Asie de l'Est, en Amérique latine, au Moyen-Orient et dans d'autres régions.

Bon nombre de ces commentaires provenaient de membres de l'initiative recrutés cette année au Brésil, en Chine, en Iran, en Israël, au Japon, en Corée, au Mexique, en Fédération de Russie et en Thaïlande. Le groupe compte désormais environ 250 personnes dans le monde et continue de croître, selon le président du comité exécutif Raja Chatila.

Ces membres internationaux ont traduit des parties du document dans leur langue maternelle afin qu'il puisse être largement diffusé dans leur pays, et ils ont soumis des rapports sur l'état de l'éthique de l'IA dans leurs régions au comité exécutif de l'initiative.

Pour diversifier davantage les points de vue, l'initiative a créé un comité d'éthique classique pour identifier les systèmes de valeurs non occidentaux, tels que le bouddhisme ou le confucianisme, qui pourraient être incorporés dans les directives éthiques du document. Le groupe a également sollicité les commentaires d'organismes de sensibilisation, comme AI4All , qui enseignent aux femmes et aux personnes de couleur l'IA.

On ne sait pas encore comment l'initiative fusionnera ces différentes traditions et points de vue - la version finale ne sera pas publiée avant 2019 - mais le groupe a quelques idées préliminaires. Citant la croyance bouddhiste selon laquelle rien n'existe isolément pourrait rappeler aux concepteurs d'IA qu'ils sont responsables des systèmes qu'ils créent, par exemple. De même, enseigner aux développeurs la tradition philosophique subsaharienne Ubuntu, qui met l'accent sur la valeur de la communauté, pourrait les inciter à travailler en étroite collaboration avec les éthiciens et le public cible pour vérifier si leurs besoins sont identifiés et satisfaits, selon la dernière version du document.

Malgré son sérieux, rien ne garantit que l'entreprise produira des résultats. Comme d'autres lignes directrices sur l'éthique de l'IA en cours d'élaboration, la conception alignée sur l'éthique ne fait que des recommandations ; il n'a aucun moyen de faire respecter ses suggestions. Mais la prise de conscience croissante de la manière dont l'IA peut discriminer les utilisateurs si les concepteurs ne tiennent pas compte de la diversité - et les exigences croissantes des consommateurs en matière de responsabilité - soulignent l'importance de penser globalement lors de la formulation de principes éthiques pour l'IA.