Les géants de la technologie sont aux prises avec les préoccupations éthiques soulevées par le boom de l'IA

Un grand pouvoir s'accompagne d'une grande responsabilité, et la technologie de l'intelligence artificielle devient de plus en plus puissante. Les entreprises à l'avant-garde du développement et du déploiement de l'apprentissage automatique et de l'IA commencent maintenant à parler ouvertement des défis éthiques soulevés par leurs créations de plus en plus intelligentes.

Nous sommes ici à un point d'inflexion pour l'IA, a déclaré Eric Horvitz, directeur général de Microsoft Research, à Examen de la technologie MIT à la conférence EmTech de cette semaine. Nous avons un impératif éthique d'exploiter l'IA pour protéger et préserver dans le temps.

Horvitz s'est entretenu avec des chercheurs d'IBM et de Google qui réfléchissent à des problèmes similaires. Une préoccupation partagée était que les avancées récentes conduisent les entreprises à placer des logiciels dans des positions avec un contrôle très direct sur les humains, par exemple dans les soins de santé.

Francesca Rossi , chercheur chez IBM, a donné l'exemple d'une machine d'assistance ou d'accompagnement aux personnes âgées. Ce robot devra suivre des normes culturelles spécifiques à la culture et à la tâche, a-t-elle déclaré. [Et] si vous deviez vous déployer aux États-Unis ou au Japon, ce comportement devrait être très différent.

De tels robots sont peut-être encore loin, mais les défis éthiques soulevés par l'IA sont déjà là. Alors que les entreprises et les gouvernements s'appuient davantage sur les systèmes d'apprentissage automatique pour prendre des décisions, les angles morts ou les biais de la technologie peuvent effectivement conduire à une discrimination contre certains types de personnes.

Une enquête ProPublica l'année dernière, par exemple, a révélé qu'un système de notation des risques utilisé dans certains États pour informer la condamnation pénale était biaisé contre les noirs . De même, Horvitz a décrit comment un service de reconnaissance des émotions développé par Microsoft pour être utilisé par les entreprises était initialement inexact pour les jeunes enfants car il était formé à l'aide d'un sac de photos qui n'était pas correctement organisé.

Maya Gupta, chercheuse chez Google, a appelé l'industrie à redoubler d'efforts pour développer des processus afin de garantir que les données utilisées pour former les algorithmes ne soient pas faussées. Souvent, ces ensembles de données sont créés de manière quelque peu automatisée, a déclaré Gupta. Nous devons réfléchir davantage, est-ce que nous échantillonnons suffisamment de groupes minoritaires pour être sûrs que nous avons fait un assez bon travail ?

Au cours de l'année écoulée, de nombreux efforts de recherche sur les défis éthiques de l'apprentissage automatique et de l'IA ont vu le jour dans les universités et l'industrie. L'Université de Californie, Berkeley; Havard ; et les universités d'Oxford et de Cambridge ont toutes lancé des programmes ou des instituts pour travailler sur l'éthique et la sécurité de l'IA. En 2016, Amazon, Microsoft, Google, IBM et Facebook ont ​​fondé conjointement une organisation à but non lucratif appelée Partenariat sur l'IA pour travailler sur le problème (Apple a rejoint en janvier).

Les entreprises prennent également des mesures individuelles pour mettre en place des garanties autour de leur technologie. Gupta a souligné les recherches de Google qui testent des moyens de corriger les modèles d'apprentissage automatique biaisés ou de les empêcher de devenir biaisés en premier lieu. Horvitz a décrit le comité d'éthique interne de Microsoft pour l'IA, surnommé AETHER, qui considère des choses comme de nouveaux algorithmes de décision développés pour les services en nuage de l'entreprise. Bien qu'actuellement peuplée d'employés de Microsoft, la société espère à l'avenir ajouter également des voix extérieures. Google a lancé son propre comité d'éthique de l'IA.

Peut-être sans surprise, les entreprises qui créent de tels programmes affirment généralement qu'elles évitent le besoin de nouvelles formes de réglementation gouvernementale de l'intelligence artificielle. Mais chez EmTech, Horvitz a également encouragé la discussion sur les résultats extrêmes qui pourraient amener certaines personnes à conclure le contraire.

En février, il a organisé un atelier où des experts ont expliqué en détail comment l'IA pourrait nuire à la société en faisant des choses comme jouer avec le marché boursier ou les résultats des élections. Si vous êtes proactif, vous pouvez arriver à des résultats réalisables et mettre en place des mécanismes pour les perturber maintenant, a déclaré Horvitz.

Ce genre de discours semblait énerver certains de ceux avec qui il partageait la scène à San Francisco. Gupta de Google a encouragé les gens à considérer également comment le fait de retirer certaines décisions des mains des humains pourrait rendre le monde plus moral qu'il ne l'est actuellement.

L'apprentissage automatique est contrôlable, précis et mesurable avec des statistiques, a-t-elle déclaré. Il y a tellement de possibilités pour plus d'équité et des résultats plus éthiques.

cacher