Le Congrès veut vous protéger des algorithmes biaisés, des deepfakes et autres mauvaises IA

Simone Nironha

Mercredi dernier, les législateurs américains ont présenté une nouvelle facture qui représente l'un des premiers efforts majeurs du pays pour réglementer l'IA. Il y en aura probablement d'autres à venir.

Cela fait allusion à un changement radical de la position de Washington envers l'une des technologies les plus puissantes de ce siècle. Il y a quelques années seulement, les décideurs politiques étaient peu enclins à réglementer l'IA. Maintenant, alors que les conséquences de ne pas le faire deviennent de plus en plus tangibles, un petit contingent au Congrès propose une stratégie plus large pour freiner la technologie.

Bien que les États-Unis ne soient pas seuls dans cette entreprise, le Royaume-Uni, La France , l'Australie et d'autres ont récemment rédigé ou adopté une législation pour tenir les entreprises technologiques responsables de leurs algorithmes - le pays a une occasion unique de façonner l'impact mondial de l'IA en tant que siège de la Silicon Valley. Un problème en Europe est que nous ne sommes pas à l'avant-garde du développement de l'IA, déclare Bendert Zevenbergen, ancien conseiller en politique technologique au Parlement européen et maintenant chercheur à l'Université de Princeton. Nous sommes en quelque sorte des bénéficiaires de la technologie de l'IA à bien des égards. Nous sommes définitivement le deuxième niveau. Le premier niveau est les États-Unis et la Chine.

Le nouveau projet de loi, appelé Algorithmic Accountability Act, obligerait les grandes entreprises à auditer leurs systèmes d'apprentissage automatique pour détecter les préjugés et la discrimination et à prendre des mesures correctives en temps opportun si de tels problèmes étaient identifiés. Cela obligerait également ces entreprises à auditer non seulement l'apprentissage automatique, mais tous les processus impliquant des données sensibles, y compris les informations personnellement identifiables, biométriques et génétiques, pour les risques de confidentialité et de sécurité. S'il est adopté, le projet de loi placerait le pouvoir réglementaire entre les mains de la Federal Trade Commission des États-Unis, l'agence chargée de la protection des consommateurs et de la réglementation antitrust.

Le projet de loi est le premier produit de plusieurs mois de discussions entre législateurs, chercheurs et autres experts pour protéger les consommateurs des impacts négatifs de l'IA, déclare Mutale Nkonde, chercheur au Data & Society Research Institute qui a participé au processus. Il vient en réponse à plusieurs révélations très médiatisées de l'année dernière qui ont montré les dommages considérables que le biais algorithmique peut avoir dans de nombreux contextes. Ceux-ci incluent Amazon outil de recrutement interne qui pénalisaient les candidatures féminines ; des plateformes commerciales d'analyse et de reconnaissance faciale beaucoup moins précises pour les femmes à la peau foncée que pour les hommes à la peau plus claire ; et, plus récemment, un algorithme de recommandation de publicités sur Facebook qui perpétue probablement la discrimination en matière d'emploi et de logement, quel que soit le public cible spécifié par l'annonceur.

Histoire connexe

Histoire connexe Les biais peuvent s'infiltrer à de nombreuses étapes du processus d'apprentissage en profondeur, et les pratiques standard en informatique ne sont pas conçues pour les détecter.

Le projet de loi a déjà été salué par les membres de la communauté de l'éthique et de la recherche en IA comme une étape importante et réfléchie vers la protection des personnes contre de tels impacts disparates involontaires. Excellent premier pas, a écrit Andrew Selbst, spécialiste de la technologie et du droit chez Data & Society, sur Twitter . Nécessiterait une documentation, une évaluation et des tentatives pour traiter les impacts prévus. C'est nouveau, excitant et incroyablement nécessaire.

Ce ne sera pas non plus la seule étape. La proposition, dit Nkonde, fait partie d'une stratégie plus large visant à apporter une surveillance réglementaire à tous les processus et produits d'IA à l'avenir. Il y aura probablement bientôt un autre projet de loi pour lutter contre la propagation de la désinformation, y compris les deepfakes, en tant que menace pour la sécurité nationale, dit-elle. Une autre facture introduit mardi interdirait les pratiques de conception manipulatrices que les géants de la technologie utilisent parfois pour amener les consommateurs à renoncer à leurs données. C'est une attaque sur plusieurs fronts, dit Nkonde.

Chaque projet de loi est délibérément expansif, englobant différents produits d'IA et processus de données dans une variété de domaines. L'un des défis auxquels Washington s'est attaqué est qu'une technologie comme la reconnaissance faciale peut être utilisée pour des objectifs radicalement différents selon les industries , tels que l'application de la loi, l'automobile et même la vente au détail. D'un point de vue réglementaire, nos produits sont spécifiques à l'industrie, dit Nkonde. Les régulateurs qui s'occupent des voitures ne sont pas les mêmes régulateurs qui s'occupent des marchés publics, qui ne sont pas les mêmes régulateurs qui s'occupent des appareils.

Le Congrès essaie de réfléchir à la manière de retravailler le cadre réglementaire traditionnel pour s'adapter à cette nouvelle réalité. Mais il sera difficile de le faire sans imposer une solution unique pour tous les contextes. Étant donné que la reconnaissance faciale est utilisée pour tant de choses différentes, il va être difficile de dire : 'Ce sont les règles de la reconnaissance faciale', déclare Zevenbergen.

Nkonde prévoit que ce mouvement réglementaire donnera éventuellement naissance à un nouveau bureau ou agence spécifiquement axé sur les technologies de pointe. Il y aura cependant des obstacles majeurs en cours de route. Alors que les protections contre la désinformation et la collecte de données manipulatrices ont recueilli un soutien bipartite, le projet de loi sur la responsabilité algorithmique est parrainé par trois démocrates, ce qui le rend moins susceptible d'être adopté par un Sénat contrôlé par les républicains et signé par le président Trump. De plus, actuellement, seule une poignée de membres du Congrès ont une compréhension technique suffisamment approfondie des données et de l'apprentissage automatique pour aborder la réglementation d'une manière suffisamment nuancée. Ces idées et propositions sont en quelque sorte une niche en ce moment, dit Nkonde. Vous avez ces trois ou quatre membres qui les comprennent.

Mais elle reste optimiste. Une partie de la stratégie pour aller de l'avant comprend la sensibilisation d'un plus grand nombre de membres aux enjeux et leur participation. Au fur et à mesure que vous les éduquez sur ce que ces projets de loi incluent et que les projets de loi obtiennent des coparrains, ils se déplaceront de plus en plus vers le centre jusqu'à ce que la réglementation de l'industrie technologique devienne une évidence, dit-elle.

Cette histoire a été initialement publiée dans notre newsletter sur l'IA nominée par Webby, The Algorithm. Pour le recevoir directement dans votre boîte de réception, inscrivez-vous ici gratuitement.

cacher