211service.com
Donner aux algorithmes un sentiment d'incertitude pourrait les rendre plus éthiques
Les algorithmes sont les meilleurs pour poursuivre un seul objectif mathématique, mais les humains veulent souvent plusieurs choses incompatibles. 18 janvier 2019
Mme Tech
Les algorithmes sont de plus en plus utilisés pour prendre des décisions éthiques. Le meilleur exemple de cela est peut-être une approche high-tech du dilemme éthique connu sous le nom de problème du chariot : si une voiture autonome ne peut pas s'empêcher de tuer l'un des deux piétons, comment le logiciel de contrôle de la voiture devrait-il choisir qui vit et qui meurt ? ?
En réalité, cette énigme n'est pas une représentation très réaliste du comportement des voitures autonomes. Mais de nombreux autres systèmes qui sont déjà là ou pas loin devront faire toutes sortes de véritables compromis éthiques. Les outils d'évaluation actuellement utilisés dans le système de justice pénale doivent tenir compte des risques pour la société contre les préjudices causés aux accusés individuels ; les armes autonomes devront mettre en balance la vie des soldats et celle des civils.
Le problème est que les algorithmes n'ont jamais été conçus pour gérer des choix aussi difficiles. Ils sont construits pour poursuivre un objectif mathématique unique, comme maximiser le nombre de vies de soldats sauvées ou minimiser le nombre de morts parmi les civils. Lorsque vous commencez à traiter des objectifs multiples, souvent concurrents, ou que vous essayez de tenir compte d'intangibles comme la liberté et le bien-être, une solution mathématique satisfaisante n'existe pas toujours.
En tant qu'êtres humains, nous voulons plusieurs choses incompatibles, déclare Peter Eckersley, directeur de la recherche pour le Partenariat sur l'IA, qui a récemment publié un papier qui explore cette question. Il existe de nombreuses situations à enjeux élevés où il est en fait inapproprié, voire dangereux, de programmer dans une seule fonction objective qui tente de décrire votre éthique.
Ces dilemmes sans solution ne sont pas spécifiques aux algorithmes. Les éthiciens les ont étudiés pendant des décennies et les appellent des théorèmes d'impossibilité. Ainsi, lorsqu'Eckersley a reconnu pour la première fois leurs applications à l'intelligence artificielle, il a emprunté une idée directement au domaine de l'éthique pour proposer une solution : et si nous intégrions l'incertitude dans nos algorithmes ?
Nous prenons des décisions en tant qu'êtres humains de manière assez incertaine la plupart du temps, dit-il. Notre comportement en tant qu'êtres moraux est plein d'incertitude. Mais lorsque nous essayons de prendre ce comportement éthique et de l'appliquer à l'IA, il a tendance à se concrétiser et à se préciser. Au lieu de cela, Eckersley propose, pourquoi ne pas concevoir explicitement nos algorithmes pour être incertains de la bonne chose à faire ?
Eckersley propose deux techniques possibles pour exprimer mathématiquement cette idée. Il part du principe que les algorithmes sont généralement programmés avec des règles claires sur les préférences humaines. Nous devrions lui dire, par exemple, que nous préférons définitivement les soldats amis aux civils amis, et les civils amis aux soldats ennemis, même si nous n'étions pas vraiment sûrs ou ne pensions pas que cela devrait toujours être le cas. La conception de l'algorithme laisse peu de place à l'incertitude.
La première technique, connue sous le nom de classement partiel, commence à introduire la moindre incertitude. Vous pouvez programmer l'algorithme pour préférer les soldats amis aux soldats ennemis et les civils amis aux soldats ennemis, mais vous ne spécifierez pas de préférence entre les soldats amis et les civils amis.
Dans la deuxième technique, connue sous le nom de classement incertain, vous avez plusieurs listes de préférences absolues, mais chacune est associée à une probabilité. Les trois quarts du temps, vous pourriez préférer des soldats amis à des civils amis plutôt qu'à des soldats ennemis. Un quart du temps, vous pourriez préférer des civils amis à des soldats amis plutôt qu'à des soldats ennemis.
L'algorithme pourrait gérer cette incertitude en calculant plusieurs solutions, puis en donnant aux humains un menu d'options avec leurs compromis associés, explique Eckersley. Supposons que le système d'IA était destiné à aider à prendre des décisions médicales. Au lieu de recommander un traitement plutôt qu'un autre, il pourrait présenter trois options possibles : une pour maximiser la durée de vie du patient, une autre pour minimiser la souffrance du patient et une troisième pour minimiser les coûts. Faites en sorte que le système soit explicitement incertain, dit-il, et remettez le dilemme aux humains.
Carla Gomes, professeur d'informatique à l'Université Cornell, a expérimenté des techniques similaires dans son travail. Dans un projet, elle a développé un système automatisé pour évaluer l'impact des nouveaux projets de barrages hydroélectriques dans le bassin de l'Amazone. Les barrages fournissent une source d'énergie propre. Mais ils altèrent aussi profondément des tronçons de rivière et perturbent les écosystèmes fauniques.
C'est un scénario complètement différent des voitures autonomes ou d'autres [dilemmes éthiques couramment référencés], mais c'est un autre cadre où ces problèmes sont réels, dit-elle. Il y a deux objectifs contradictoires, alors que devez-vous faire ?
Le problème global est très complexe, ajoute-t-elle. Il faudra un ensemble de recherches pour résoudre tous les problèmes, mais l'approche de Peter fait un pas important dans la bonne direction.
C'est un problème qui ne fera que croître avec notre dépendance aux systèmes algorithmiques. De plus en plus, les systèmes complexes nécessitent que l'IA soit aux commandes, explique Roman V. Yampolskiy, professeur agrégé d'informatique à l'Université de Louisville. Personne ne peut comprendre la complexité de, vous savez, l'ensemble du marché boursier ou des systèmes de réponse militaire. Nous n'aurons donc pas d'autre choix que de céder une partie de notre contrôle aux machines.
Une version antérieure de cette histoire a paru à l'origine dans notre newsletter AI The Algorithm. Pour le recevoir directement dans votre boîte de réception, inscrivez-vous ici gratuitement.