L'IA peut être rendue légalement responsable de ses décisions

L'intelligence artificielle est appelée à jouer un rôle beaucoup plus important dans la société. Et cela soulève la question de la responsabilité. Si nous comptons sur des machines pour prendre des décisions de plus en plus importantes, nous devrons disposer de mécanismes de recours si les résultats s'avèrent inacceptables ou difficiles à comprendre.

Mais faire en sorte que les systèmes d'IA expliquent leurs décisions n'est pas tout à fait simple. Un problème est que les explications ne sont pas gratuites ; ils nécessitent des ressources considérables tant dans le développement du système d'IA que dans la manière dont il est interrogé dans la pratique.

Une autre préoccupation est que les explications peuvent révéler des secrets commerciaux en forçant les développeurs à publier le fonctionnement interne du système d'IA. De plus, l'un des avantages de ces systèmes est qu'ils peuvent donner un sens à des données complexes d'une manière qui n'est pas accessible aux humains. Ainsi, rendre leurs explications compréhensibles pour les humains pourrait nécessiter une réduction des performances.

Les systèmes d'explication doivent être séparés des systèmes d'IA, selon l'équipe de Harvard

Comment alors rendre l'IA responsable de ses décisions sans étouffer l'innovation ?

Aujourd'hui, nous obtenons une sorte de réponse grâce au travail de Finale Doshi-Velez, Mason Kortz et d'autres à l'Université de Harvard à Cambridge, Massachusetts. Ces personnes sont des informaticiens, des scientifiques cognitifs et des juristes qui ont ensemble exploré les problèmes juridiques soulevés par les systèmes d'IA, identifié les problèmes clés et suggéré des solutions potentielles. Ensemble, nous sommes des experts de l'explication de la loi, de la création de systèmes d'IA et des capacités et des limites du raisonnement humain, disent-ils.

Ils commencent par définir l'explication. Lorsque nous parlons d'explication d'une décision, nous entendons généralement les raisons ou les justifications de ce résultat particulier, plutôt qu'une description du processus décisionnel en général, disent-ils.

La distinction est importante. Doshi-Velez et co soulignent qu'il est possible d'expliquer comment un système d'IA prend des décisions dans le même sens qu'il est possible d'expliquer comment fonctionne la gravité ou comment faire cuire un gâteau. Cela se fait en énonçant les règles que le système suit, sans se référer à un objet ou à un gâteau spécifique qui tombe.

C'est la crainte des industriels qui veulent garder secret le fonctionnement de leurs systèmes d'IA pour protéger leur avantage commercial.

Mais ce type de transparence n'est pas nécessaire dans de nombreux cas. Expliquer pourquoi un objet est tombé dans un accident industriel, par exemple, ne nécessite normalement pas une explication de la gravité. Au lieu de cela, des explications sont généralement nécessaires pour répondre à des questions comme celles-ci : Quels ont été les principaux facteurs d'une décision ? La modification d'un certain facteur aurait-elle changé la décision ? Pourquoi deux cas similaires ont-ils conduit à des décisions différentes ?

Répondre à ces questions ne nécessite pas nécessairement une explication détaillée du fonctionnement d'un système d'IA.

Alors, quand faut-il donner des explications ? Essentiellement, lorsque les avantages l'emportent sur les coûts. Nous constatons qu'il existe trois conditions qui caractérisent les situations dans lesquelles la société considère qu'un décideur est obligé - moralement, socialement ou légalement - de fournir une explication, disent Doshi-Velez et co.

L'équipe affirme que la décision doit avoir un impact sur une personne autre que le décideur. Il doit être utile de savoir si la décision a été prise par erreur. Et il doit y avoir une raison de croire qu'une erreur s'est produite (ou se produira) dans le processus de prise de décision.

Par exemple, les observateurs pourraient soupçonner qu'une décision a été influencée par un facteur non pertinent, comme un chirurgien refusant d'effectuer une opération en raison de la phase de la lune. Ou ils peuvent se méfier d'un système s'il a pris la même décision dans deux ensembles de circonstances totalement différentes. Dans ce cas, ils pourraient soupçonner qu'il n'a pas tenu compte d'un facteur important. Une autre préoccupation se pose avec les décisions qui semblent profiter injustement à un groupe, comme lorsque les administrateurs de sociétés prennent des décisions qui leur profitent aux dépens de leurs actionnaires.

En d'autres termes, il doit y avoir de bonnes raisons de penser qu'une décision est inappropriée avant d'exiger une explication. Mais il peut aussi y avoir d'autres raisons de donner des explications, comme tenter d'accroître la confiance avec les consommateurs.

Alors Doshi-Velez et co regardent des situations juridiques concrètes dans lesquelles des explications sont nécessaires. Ils soulignent que les esprits raisonnables peuvent différer et ne sont pas d'accord sur le point de savoir s'il est moralement justifiable ou socialement souhaitable d'exiger une explication. Les lois, d'autre part, sont codifiées, et bien que l'on puisse se demander si une loi est correcte, au moins nous savons ce qu'est la loi, disent-ils.

En vertu de la loi américaine, des explications sont requises dans une grande variété de situations et à différents niveaux de détail. Par exemple, des explications sont requises en cas de responsabilité stricte, de divorce ou de discrimination ; pour les décisions administratives; et pour les juges et les jurys. Mais le niveau de détail varie énormément.

Tout cela a des implications importantes pour les systèmes d'IA. Doshi-Velez et co concluent que des explications juridiquement réalisables sont possibles pour les systèmes d'IA. En effet, l'explication d'une décision peut être faite séparément de la description de son fonctionnement interne. De plus, l'équipe affirme qu'un système d'explication doit être considéré comme distinct du système d'IA.

C'est un résultat significatif. Cela ne signifie pas que des explications satisfaisantes seront toujours faciles à générer. Par exemple, comment pouvons-nous montrer qu'un système de sécurité qui utilise des images d'un visage comme entrée ne discrimine pas sur la base du sexe ? Cela n'est possible qu'en utilisant un visage alternatif qui est similaire à tous points de vue, sauf pour le sexe, selon l'équipe.

Mais il est généralement possible d'expliquer les décisions prises par les systèmes d'IA. Et cela conduit l'équipe à une conclusion claire. Nous recommandons que pour le moment, les systèmes d'IA puissent et doivent être tenus à une norme d'explication similaire à celle des humains actuellement, disent-ils.

Mais notre utilisation et notre compréhension de l'IA sont susceptibles de changer d'une manière que nous ne comprenons pas encore (et peut-être jamais). Pour cette raison, cette approche devra être revue. À l'avenir, nous souhaiterons peut-être tenir une IA à une norme différente, disons Doshi-Velez et co.

Assez!

Réf : arxiv.org/abs/1711.01134 : Responsabilité de l'IA en vertu de la loi : le rôle de l'explication

cacher