Ce que le bouddhisme peut faire pour l'éthique de l'IA

Mme Tech | Unsplash

La croissance explosive de l'intelligence artificielle a fait naître l'espoir qu'elle nous aidera à résoudre bon nombre des problèmes les plus insolubles au monde. Cependant, le pouvoir de l'IA est également très préoccupant et il est de plus en plus admis que son utilisation doit être guidée pour éviter de porter atteinte à nos droits.

De nombreux groupes ont discuté et proposé des lignes directrices éthiques sur la façon dont l'IA devrait être développée ou déployée : l'IEEE, une organisation professionnelle mondiale pour les ingénieurs, a publié une Document de 280 pages sur le sujet (auquel j'ai contribué), et l'Union européenne a publié son propre cadre. le Inventaire mondial des lignes directrices sur l'éthique de l'IA a compilé plus de 160 lignes directrices de ce type provenant du monde entier.

Malheureusement, la plupart de ces lignes directrices sont élaborées par des groupes ou des organisations concentrés en Amérique du Nord et en Europe : une enquête publiée par la spécialiste des sciences sociales Anna Jobin et ses collègues en a trouvé 21 aux États-Unis, 19 dans l'UE, 13 au Royaume-Uni, quatre au Japon, et un chacun des Émirats arabes unis, de l'Inde, de Singapour et de la Corée du Sud.

Les directives reflètent les valeurs des personnes qui les publient. Le fait que la plupart des lignes directrices sur l'éthique de l'IA soient rédigées dans les pays occidentaux signifie que le domaine est dominé par des valeurs occidentales telles que le respect de l'autonomie et des droits des individus, d'autant plus que les quelques lignes directrices émises dans d'autres pays reflètent principalement celles de l'Occident.

Les directives écrites dans différents pays peuvent être similaires car certaines valeurs sont en effet universelles. Cependant, pour que ces lignes directrices reflètent véritablement les perspectives des habitants des pays non occidentaux, elles devraient également représenter les systèmes de valeurs traditionnels de chaque culture.

Histoire connexe

Les groupes d'éthique de l'IA répètent l'une des erreurs classiques de la société Trop de conseils et de conseils consultatifs sont encore majoritairement composés de personnes basées en Europe ou aux États-Unis.

Les gens de l'Est comme de l'Ouest ont besoin de partager leurs idées et de considérer celles des autres pour enrichir leurs propres perspectives. Parce que le développement et l'utilisation de l'IA s'étendent à l'ensemble du globe, notre façon d'y penser doit être éclairée par toutes les grandes traditions intellectuelles.

Dans cet esprit, je crois que aperçus tirés de l'enseignement bouddhiste pourrait profiter à toute personne travaillant sur l'éthique de l'IA partout dans le monde, et pas seulement dans les cultures traditionnellement bouddhistes (qui se trouvent principalement à l'Est et principalement en Asie du Sud-Est).

Le bouddhisme propose une façon de penser l'éthique basée sur l'hypothèse que tous les êtres sensibles veulent éviter la douleur. Ainsi, le Bouddha enseigne qu'une action est bonne si elle conduit à se libérer de la souffrance.

L'implication de cet enseignement pour l'intelligence artificielle est que toute utilisation éthique de l'IA doit s'efforcer de réduire la douleur et la souffrance. En d'autres termes, par exemple, la technologie de reconnaissance faciale ne devrait être utilisée que s'il peut être démontré qu'elle réduit la souffrance ou favorise le bien-être. De plus, l'objectif devrait être de réduire la souffrance de tous, pas seulement de ceux qui interagissent directement avec l'IA.

Nous pouvons bien sûr interpréter cet objectif au sens large pour inclure la réparation d'un système ou d'un processus qui n'est pas satisfaisant, ou l'amélioration d'une situation. Utiliser la technologie pour discriminer les gens ou pour surveiller et réprimer eux, serait clairement contraire à l'éthique. Lorsqu'il existe des zones grises ou que la nature de l'impact n'est pas claire, la charge de la preuve incomberait à ceux qui cherchent à démontrer qu'une application particulière de l'IA ne cause pas de préjudice.

Ne fais pas de mal

Une éthique de l'IA d'inspiration bouddhiste comprendrait également que vivre selon ces principes nécessite une culture de soi. Cela signifie que ceux qui sont impliqués dans l'IA doivent se former en permanence pour se rapprocher de l'objectif d'éliminer totalement la souffrance. Atteindre l'objectif n'est pas si important; ce qui est important, c'est qu'ils entreprennent la pratique pour l'atteindre. C'est la pratique qui compte.

Les concepteurs et les programmeurs devraient s'entraîner en reconnaissant cet objectif et en définissant les étapes spécifiques que leur travail suivrait pour que leur produit incarne l'idéal. Autrement dit, l'IA qu'ils produisent doit viser à aider le public à éliminer la souffrance et à promouvoir le bien-être.

Pour que tout cela soit possible, les entreprises et les agences gouvernementales qui développent ou utilisent l'IA doivent rendre des comptes au public. La responsabilité est également un enseignement bouddhiste et, dans le contexte de l'éthique de l'IA, elle nécessite des mécanismes juridiques et politiques efficaces ainsi que l'indépendance judiciaire. Ces composants sont essentiels pour que toute directive éthique sur l'IA fonctionne comme prévu.

Un autre concept clé du bouddhisme est la compassion, ou le désir et l'engagement d'éliminer la souffrance chez les autres. La compassion, elle aussi, exige la culture de soi, et cela signifie que des actes nuisibles tels que l'exercice de son pouvoir pour réprimer les autres n'ont pas leur place dans l'éthique bouddhiste. Il n'est pas nécessaire d'être moine pour pratiquer l'éthique bouddhiste, mais il faut cultiver soi-même et faire preuve de compassion dans la vie quotidienne.

Nous pouvons voir que les valeurs promues par le bouddhisme - y compris la responsabilité, la justice et la compassion - sont pour la plupart les mêmes que celles trouvées dans d'autres traditions éthiques. C'est à prévoir; nous sommes tous des êtres humains, après tout. La différence est que le bouddhisme défend ces valeurs d'une manière différente et met peut-être davantage l'accent sur la culture de soi.

Le bouddhisme a beaucoup à offrir à quiconque réfléchit à l'utilisation éthique de la technologie, y compris à ceux qui s'intéressent à l'IA. Je pense qu'il en va de même pour de nombreux autres systèmes de valeurs non occidentaux. Les lignes directrices sur l'éthique de l'IA devraient s'appuyer sur la riche diversité de pensée des nombreuses cultures du monde pour refléter une plus grande variété de traditions et d'idées sur la façon d'aborder les problèmes éthiques. L'avenir de la technologie n'en sera que plus brillant.

Soraj Hongladarom est professeur de philosophie au Centre pour la science, la technologie et la société de l'Université Chulalongkorn à Bangkok, en Thaïlande.

cacher