En 2020, arrêtons de laver l'éthique de l'IA et faisons quelque chose

Choix éthiques de l'IA Getty

L'année dernière, alors que je commençais à couvrir l'intelligence artificielle, le monde de l'IA recevait un signal d'alarme majeur. Il y a eu des progrès incroyables dans la recherche sur l'IA en 2018, de l'apprentissage par renforcement aux réseaux antagonistes génératifs (GAN) en passant par une meilleure compréhension du langage naturel. Mais l'année a aussi vu plusieurs illustrations de haut niveau des dommages que ces systèmes peuvent causer lorsqu'ils sont déployés trop hâtivement.

Une Tesla s'est écrasé sur le pilote automatique , tuant le conducteur, et un Uber autonome s'est écrasé , tuant un piéton. Les systèmes commerciaux de reconnaissance faciale ont donné d'excellents résultats dans audits au les personnes à la peau foncée , mais les géants de la technologie ont continué à les vendre quand même, aux clients, y compris les forces de l'ordre. Au début de cette année, en réfléchissant à ces événements, j'ai rédigé une résolution pour la communauté de l'IA : Arrêtez de traiter l'IA comme de la magie et prenez la responsabilité de la créer, de l'appliquer et de la réglementer de manière éthique.

À certains égards, mon souhait s'est réalisé. En 2019, on parlait plus que jamais de l'éthique de l'IA. Des dizaines d'organisations ont produit des lignes directrices sur l'éthique de l'IA ; les entreprises se sont précipitées pour créer des équipes d'IA responsables et les faire défiler devant les médias. Il est désormais difficile d'assister à une conférence sur l'IA sans qu'une partie de la programmation ne soit consacrée à un message lié à l'éthique : comment protéger la vie privée des gens lorsque l'IA a besoin d'autant de données ? Comment autonomiser les communautés marginalisées au lieu de les exploiter ? Comment continuer à faire confiance aux médias face à la désinformation créée et distribuée de manière algorithmique ?

Mais parler, c'est juste ça, ça ne suffit pas. Malgré toutes les paroles en l'air accordées à ces questions, les directives éthiques de l'IA de nombreuses organisations restent vagues et difficiles à mettre en œuvre. Peu d'entreprises peuvent montrer des changements tangibles dans la façon dont les produits et services d'IA sont évalués et approuvés. Nous tombons dans le piège du lavage de l'éthique, où les véritables actions sont remplacées par des promesses superficielles. Dans l'exemple le plus aigu, Google a formé un comité d'éthique nominal de l'IA sans véritable droit de veto sur des projets douteux, et avec quelques membres dont l'inclusion a provoqué la controverse. Un contrecoup a immédiatement conduit à sa dissolution.

Entre-temps, le besoin d'une plus grande responsabilité éthique n'a fait que devenir plus urgent. Les mêmes progrès réalisés dans les GAN en 2018 ont conduit à la prolifération de deepfakes hyperréalistes, qui sont maintenant utilisés pour cibler les femmes et éroder la croyance des gens dans la documentation et les preuves. De nouvelles découvertes ont mis en lumière l'impact climatique massif de l'apprentissage en profondeur, mais les organisations ont continué à former des modèles toujours plus grands et plus énergivores. Des universitaires et des journalistes ont également révélé combien humains sont derrière le rideau algorithmique. L'industrie de l'IA crée une toute nouvelle classe de travailleurs cachés - modérateurs de contenu, étiqueteurs de données, transcripteurs - qui travaillent dans des conditions souvent brutales.

Mais tout n'est pas sombre et morose : 2019 a été l'année de la le plus grand refoulement de la base contre l'IA nuisible des groupes communautaires, des décideurs et des employés de la technologie eux-mêmes. Plusieurs villes, dont San Francisco et Oakland, Californie, et Somerville, Massachusetts, ont interdit l'utilisation publique de la reconnaissance faciale , et une législation fédérale proposée pourrait bientôt l'interdire dans les logements publics américains également. Les employés de géants de la technologie comme Microsoft, Google et Salesforce se sont également de plus en plus prononcés contre l'utilisation de l'IA par leurs entreprises pour le suivi des migrants et la surveillance par drones.

Au sein de la communauté de l'IA, les chercheurs ont également redoublé d'efforts pour atténuer les biais de l'IA et réexaminé les incitations qui conduisent à l'emballement de la consommation d'énergie sur le terrain . Les entreprises ont investi davantage de ressources dans la protection de la vie privée des utilisateurs et dans la lutte contre les deepfakes et la désinformation . Des experts et des décideurs ont travaillé en tandem pour proposer une nouvelle législation réfléchie destinée à limiter les conséquences imprévues sans freiner l'innovation. Lors du plus grand rassemblement annuel dans le domaine cette année, j'ai été à la fois touché et surpris par le nombre de discours, d'ateliers et d'affiches axés sur des problèmes du monde réel, à la fois ceux créés par l'IA et ceux qu'elle pourrait aider à résoudre.

Voici donc mon espoir pour 2020 : que l'industrie et le milieu universitaire maintiennent cet élan et apportent des changements concrets ascendants et descendants qui réalignent le développement de l'IA. Tant qu'il est encore temps, il ne faut pas perdre de vue le rêve qui anime le terrain. Il y a des décennies, les humains ont commencé la quête pour construire des machines intelligentes afin qu'ils puissent un jour nous aider à résoudre certains de nos défis les plus difficiles.

L'IA, en d'autres termes, est destinée à aider l'humanité à prospérer. Il ne faut pas oublier.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.

cacher