Une « IA digne de confiance » est un cadre pour aider à gérer un risque unique

'Trustworthy AI' est un cadre pour aider à gérer un risque unique

Fourni par L'Institut Deloitte sur l'IA

La technologie de l'intelligence artificielle (IA) continue de progresser à pas de géant et devient rapidement un perturbateur potentiel et un catalyseur essentiel pour presque toutes les entreprises de tous les secteurs. À ce stade, l'un des obstacles au déploiement généralisé de l'IA n'est plus la technologie elle-même ; il s'agit plutôt d'un ensemble de défis qui, ironiquement, sont beaucoup plus humains : l'éthique, la gouvernance et les valeurs humaines.

Irfan Saif est directeur chez Deloitte Risk and Financial Advisory. Beena Ammanath est directrice générale chez Deloitte Consulting LLP.

Alors que l'IA s'étend à presque tous les aspects de la vie moderne, les risques de mauvaise conduite de l'IA augmentent de façon exponentielle, à un point tel que ces risques peuvent littéralement devenir une question de vie ou de mort. Des exemples concrets d'IA qui ont mal tourné incluent des systèmes qui discriminent les personnes en fonction de leur race, de leur âge ou de leur sexe et des systèmes de médias sociaux qui propagent par inadvertance des rumeurs et de la désinformation, etc.

Pire encore, ces exemples ne sont que la pointe de l'iceberg. Au fur et à mesure que l'IA est déployée à plus grande échelle, les risques associés ne feront probablement qu'augmenter, ce qui aura potentiellement de graves conséquences pour la société dans son ensemble, et des conséquences encore plus importantes pour les entreprises responsables. D'un point de vue commercial, ces conséquences potentielles incluent tout, des poursuites, des amendes réglementaires et des clients mécontents à l'embarras, aux atteintes à la réputation et à la destruction de la valeur actionnariale.

Pourtant, l'IA devenant désormais une capacité commerciale requise - et pas seulement un avantage - les entreprises n'ont plus la possibilité d'éviter les risques uniques de l'IA simplement en évitant complètement l'IA. Au lieu de cela, ils doivent apprendre à identifier et à gérer efficacement les risques liés à l'IA. Afin de réaliser le potentiel de la collaboration entre l'homme et la machine, les organisations doivent communiquer un plan d'IA qui est adopté et parlé de la salle du courrier à la salle de conférence. En ayant un cadre éthique en place, les organisations créent un langage commun par lequel articuler la confiance et aider à assurer l'intégrité des données entre toutes leurs parties prenantes internes et externes. Disposer d'un cadre et d'une optique communs pour appliquer la gouvernance et la gestion des risques associés à l'IA de manière cohérente dans toute l'entreprise peut permettre une adoption plus rapide et plus cohérente de l'IA.

Le cadre d'IA digne de confiance

Pour mieux relever les défis liés à l'éthique et à la gouvernance de l'IA, il est utile de tirer parti d'un cadre. Le cadre d'IA digne de confiance de Deloitte introduit six dimensions clés qui, lorsqu'elles sont prises en compte collectivement dans les phases de conception, de développement, de déploiement et d'exploitation de la mise en œuvre du système d'IA, peuvent aider à préserver l'éthique et à élaborer une stratégie d'IA digne de confiance.

Le cadre Trustworthy AI est conçu pour aider les entreprises à identifier et à atténuer les risques potentiels liés à l'éthique de l'IA à chaque étape du cycle de vie de l'IA. Voici un examen plus approfondi de chacune des six dimensions du cadre.

Le cadre d'IA digne de confiance

1. Juste, non biaisé

Une IA digne de confiance doit être conçue et formée pour suivre un processus équitable et cohérent et prendre des décisions équitables. Il doit également inclure des contrôles internes et externes pour réduire les biais discriminatoires.

Le biais est un défi permanent pour les humains et la société, pas seulement pour l'IA. Cependant, le défi est encore plus grand pour l'IA car elle manque d'une compréhension nuancée des normes sociales - sans parler de l'extraordinaire intelligence générale nécessaire pour atteindre le bon sens - pouvant conduire à des décisions techniquement correctes mais socialement inacceptables. L'IA apprend à partir des ensembles de données utilisés pour l'entraîner, et si ces ensembles de données contiennent un biais du monde réel, les systèmes d'IA peuvent apprendre, amplifier et propager ce biais à une vitesse et à une échelle numériques.

Par exemple, un système d'intelligence artificielle qui décide à la volée où placer des offres d'emploi en ligne peut cibler injustement les annonces pour des emplois mieux rémunérés sur les visiteurs masculins d'un site Web, car les données du monde réel montrent que les hommes gagnent généralement plus que les femmes. De même, une société de services financiers qui utilise l'IA pour filtrer les demandes de prêt hypothécaire pourrait trouver que son algorithme discrimine injustement les personnes en fonction de facteurs qui ne sont pas socialement acceptables, tels que la race, le sexe ou l'âge. Dans les deux cas, l'entreprise responsable de l'IA pourrait faire face à des conséquences importantes, notamment des amendes réglementaires et des atteintes à sa réputation.

Pour éviter les problèmes liés à l'équité et à la partialité, les entreprises doivent d'abord déterminer ce qui constitue l'équité. Cela peut être beaucoup plus difficile qu'il n'y paraît, car pour une question donnée, il n'y a généralement pas de définition unique de l'équité sur laquelle tout le monde s'accorde. Les entreprises doivent également rechercher activement les biais dans leurs algorithmes et leurs données, en procédant aux ajustements nécessaires et en mettant en œuvre des contrôles pour s'assurer que des biais supplémentaires n'apparaissent pas de manière inattendue. Lorsqu'un biais est détecté, il doit être compris puis atténué grâce à des processus établis pour résoudre le problème et rétablir la confiance des clients.

L'IA ne peut plus être traitée comme une boîte noire qui reçoit des entrées et génère des sorties sans une compréhension claire de ce qui se passe à l'intérieur.

2. Transparent et explicable

Pour que l'IA soit digne de confiance, tous les participants ont le droit de comprendre comment leurs données sont utilisées et comment l'IA prend des décisions. Les algorithmes, les attributs et les corrélations de l'IA doivent être ouverts à l'inspection, et ses décisions doivent être entièrement explicables.

Alors que les décisions et les processus qui reposent sur l'IA augmentent à la fois en nombre et en importance, l'IA ne peut plus être traitée comme une boîte noire qui reçoit des entrées et génère des sorties sans une compréhension claire de ce qui se passe à l'intérieur.

Par exemple, les détaillants en ligne qui utilisent l'IA pour faire des recommandations de produits aux clients sont sous pression pour expliquer leurs algorithmes et comment les décisions de recommandation sont prises. De même, le système judiciaire américain fait face à une controverse persistante sur l'utilisation de systèmes d'IA opaques pour éclairer les décisions de condamnation pénale.

Les questions importantes à prendre en compte dans ce domaine incluent l'identification des cas d'utilisation de l'IA pour lesquels la transparence et l'explicabilité sont particulièrement importantes, puis la compréhension des données utilisées et de la manière dont les décisions sont prises pour ces cas d'utilisation. De plus, en ce qui concerne la transparence, il y a une pression croissante pour informer explicitement les gens lorsqu'ils interagissent avec l'IA, au lieu de faire passer l'IA pour une personne réelle.

3. Responsable et redevable

Les systèmes d'IA dignes de confiance doivent inclure des politiques qui établissent clairement qui est responsable et responsable de leur production. Blâmer la technologie elle-même pour les mauvaises décisions et les erreurs de calcul n'est tout simplement pas suffisant - pas pour les personnes qui sont lésées, et certainement pas pour les régulateurs gouvernementaux. Il s'agit d'un problème clé qui ne fera probablement que gagner en importance à mesure que l'IA sera utilisée pour une gamme croissante d'applications de plus en plus critiques telles que le diagnostic des maladies, la gestion de patrimoine et la conduite autonome.

Par exemple, si un véhicule sans conducteur provoque une collision, qui est responsable et imputable des dommages ? Le conducteur? Le propriétaire du véhicule ? Le fabricant? Les programmeurs de l'IA ? Le PDG ?

De même, considérons l'exemple d'une entreprise d'investissement qui utilise une plate-forme automatisée alimentée par l'IA pour négocier au nom de ses clients. Si un client investit ses économies via l'entreprise et perd ensuite tout en raison de mauvais algorithmes, il devrait y avoir un mécanisme en place pour identifier qui est responsable du problème et qui est responsable de faire les choses correctement.

Les facteurs clés à prendre en compte incluent les lois et réglementations susceptibles de déterminer la responsabilité légale et si les systèmes d'IA sont auditables et couverts par les lois existantes sur les lanceurs d'alerte. En outre, comment les problèmes seront-ils communiqués au public et aux régulateurs, et à quelles conséquences les parties responsables seront-elles confrontées ?

4. Robuste et fiable

Pour que l'IA soit largement adoptée, elle doit être au moins aussi robuste et fiable que les systèmes, processus et personnes traditionnels qu'elle augmente ou remplace.

Pour que l'IA soit considérée comme digne de confiance, elle doit être disponible lorsqu'elle est censée l'être et doit générer des résultats cohérents et fiables, en exécutant correctement les tâches dans des conditions moins qu'idéales et en cas de situations et de données inattendues. Une IA digne de confiance doit bien évoluer, rester robuste et fiable à mesure que son impact s'étend et se développe. Et s'il échoue, il doit échouer de manière prévisible et attendue.

Prenons l'exemple d'une entreprise de soins de santé qui utilise l'IA pour identifier les anomalies dans les scintigraphies cérébrales et prescrire un traitement approprié. Pour être dignes de confiance, il est absolument essentiel que les algorithmes Al produisent des résultats cohérents et fiables car des vies pourraient être en jeu.

Les entreprises doivent prendre en compte et traiter toutes sortes de risques (externes, physiques, numériques), puis communiquer ces risques aux utilisateurs.

Pour obtenir une IA robuste et fiable, les entreprises doivent s'assurer que leurs algorithmes d'IA produisent les bons résultats pour chaque nouvel ensemble de données. Ils ont également besoin de processus établis pour gérer les problèmes et les incohérences lorsqu'ils surviennent. Le facteur humain est ici un élément critique : comprendre comment l'intervention humaine affecte la fiabilité ; déterminer qui sont les bonnes personnes pour apporter leur contribution ; et veiller à ce que ces personnes soient correctement équipées et formées, en particulier en ce qui concerne les préjugés et l'éthique.

5. Respectueux de la vie privée

La confidentialité est un problème critique pour tous les types de systèmes de données, mais elle est particulièrement critique pour l'IA, car les informations sophistiquées générées par les systèmes d'IA proviennent souvent de données plus détaillées et personnelles. Une IA digne de confiance doit se conformer aux réglementations sur les données et n'utiliser les données qu'aux fins déclarées et convenues.

La question de la confidentialité de l'IA s'étend souvent au-delà des murs d'une entreprise. Par exemple, la confidentialité des données audio capturées par les assistants IA a récemment fait la une des journaux, avec des controverses sur la mesure dans laquelle les fournisseurs et partenaires d'une entreprise ont accès aux données et si les données doivent être partagées avec les forces de l'ordre.

Les entreprises doivent savoir quelles données client sont collectées et pourquoi, et si les données sont utilisées de la manière que les clients ont comprise et acceptée. En outre, les clients doivent bénéficier du niveau requis de contrôle sur leurs données, y compris la possibilité de s'inscrire ou se désengager de voir leurs données partagées. Et si les clients ont des préoccupations concernant la confidentialité des données, ils ont besoin d'un moyen d'exprimer ces préoccupations.

6. Sûr et sécurisé

Pour être digne de confiance, l'IA doit être protégée contre les risques de cybersécurité qui pourraient entraîner des dommages physiques et/ou numériques. Bien que la sûreté et la sécurité soient clairement importantes pour tous les systèmes informatiques, elles sont particulièrement cruciales pour l'IA en raison du rôle et de l'impact importants et croissants de l'IA sur les activités du monde réel.

Par exemple, si un système financier basé sur l'IA est piraté, le résultat peut être une atteinte à la réputation et une perte d'argent ou de données. Ce sont des conséquences graves, bien sûr. Cependant, ils ne sont pas aussi graves que les conséquences potentielles du piratage d'un véhicule piloté par l'IA, ce qui pourrait mettre la vie des gens en danger.

Un autre exemple de risque de cybersécurité lié à l'IA est une récente violation de données impliquant des millions de enregistrements d'empreintes digitales et de reconnaissance faciale . Cette violation était particulièrement grave car elle concernait les données biométriques des personnes, qui sont permanentes et non altérables (contrairement à un mot de passe volé ou à d'autres types de données standard qui peuvent être modifiés rapidement et facilement pour limiter les dommages).

Pour aider à assurer la sûreté et la sécurité de leurs systèmes d'IA, les entreprises doivent examiner et traiter de manière approfondie toutes sortes de risques (externes, physiques et numériques, entre autres), puis communiquer ces risques aux utilisateurs. Bien que les risques externes aient tendance à retenir le plus l'attention, les risques internes tels que la fraude peuvent être tout aussi graves. Pour chaque cas d'utilisation de l'IA, les entreprises doivent évaluer si les avantages potentiels l'emportent suffisamment sur les risques associés.

Une IA en laquelle vous pouvez avoir confiance

L'éthique de l'IA est en train de devenir le plus grand défi pour les progrès continus et le déploiement généralisé de l'IA - et c'est un défi que les entreprises ne peuvent plus ignorer maintenant que l'IA devient une capacité commerciale essentielle. Le cadre Trustworthy AI offre une manière structurée et complète de réfléchir à l'éthique de l'IA, aidant les entreprises à concevoir, développer, déployer et exploiter les systèmes d'IA qu'elles peut faire confiance.

Pour plus d'informations, visitez www.deloitte.com/us/trustai .

cacher