Cela vient de devenir une grande semaine pour la réglementation de l'IA

Concept de porte FTC

Mme Tech | Unsplash





C'est une semaine exceptionnelle pour la réaction du gouvernement face à l'utilisation abusive de l'intelligence artificielle.

Aujourd'hui, l'UE a publié sa série tant attendue de Réglementation IA , dont une première ébauche fuite la semaine dernière . Les réglementations sont très variées, avec des restrictions sur la surveillance de masse et l'utilisation de l'IA pour manipuler les gens.

Mais une déclaration d'intention de la Federal Trade Commission des États-Unis, présentée dans un court article de blog par l'avocate salariée Elisa Jillson le 19 avril, pourrait avoir plus de mordant dans l'immédiat. Selon le message, la FTC prévoit de poursuivre les entreprises utilisant et vendant algorithmes biaisés .



Un certain nombre d'entreprises vont avoir peur en ce moment, déclare Ryan Calo, professeur à l'Université de Washington, qui travaille sur la technologie et le droit. Ce n'est pas vraiment juste cet article de blog, dit-il. Cet article de blog est un exemple très frappant de ce qui semble être un changement radical.

L'UE est connue pour sa ligne dure contre les Big Tech, mais la FTC a adopté une approche plus douce, du moins ces dernières années. L'agence est censée contrôler les pratiques commerciales déloyales et malhonnêtes. Son mandat est étroit - il n'a pas compétence sur les agences gouvernementales, les banques ou les organisations à but non lucratif. Mais cela peut intervenir lorsque les entreprises déforment les capacités d'un produit qu'elles vendent, ce qui signifie que les entreprises qui revendiquent leurs systèmes de reconnaissance faciale , algorithmes de police prédictive ou les outils de soins de santé ne sont pas biaisés peuvent désormais être dans la ligne de mire. Là où ils ont du pouvoir, ils ont un pouvoir énorme, dit Calo.



Prendre part

La FTC n'a pas toujours été disposée à exercer ce pouvoir. À la suite de critiques dans les années 1980 et 1990 selon lesquelles il était trop agressif, il a reculé et a suscité moins de combats, en particulier contre les entreprises technologiques. Cela semble changer.

Dans le billet de blog, la FTC avertit les fournisseurs que les affirmations concernant l'IA doivent être véridiques, non trompeuses et étayées par des preuves.

Par exemple, supposons qu'un développeur d'IA dise à ses clients que son produit fournira des 'décisions d'embauche 100% impartiales', mais que l'algorithme a été construit avec des données qui manquaient de diversité raciale ou de genre. Le résultat peut être une tromperie, une discrimination et une action en justice de la FTC.



L'action de la FTC bénéficie d'un soutien bipartisan au Sénat, où on a demandé hier aux commissaires ce qu'ils pouvaient faire de plus et ce dont ils avaient besoin pour le faire. Il y a du vent derrière les voiles, dit Calo.

Pendant ce temps, bien qu'ils tracent une ligne claire dans le sable, les réglementations de l'UE sur l'IA ne sont que des lignes directrices. Comme pour les règles GDPR introduites en 2018, il appartiendra à chaque État membre de l'UE de décider comment les mettre en œuvre. Une partie du langage est également vague et sujette à interprétation. Prenez une disposition contre les techniques subliminales au-delà de la conscience d'une personne afin de déformer matériellement le comportement d'une personne d'une manière qui pourrait causer un préjudice psychologique. Cela s'applique-t-il aux flux d'actualités sur les réseaux sociaux et à la publicité ciblée ? Nous pouvons nous attendre à ce que de nombreux lobbyistes tentent d'exclure explicitement les systèmes de publicité ou de recommandation, déclare Michael Veale, membre du corps professoral de l'University College London, qui étudie le droit et la technologie.



Histoire connexe

L'Europe adopte des règles plus strictes sur les technologies de surveillance L'objectif est de rendre les ventes de technologies telles que les logiciels espions et la reconnaissance faciale plus transparentes en Europe d'abord, puis dans le monde entier.

Il faudra des années de contestations judiciaires devant les tribunaux pour élucider les détails et les définitions. Ce ne sera qu'après un processus extrêmement long d'enquête, de plainte, d'amende, d'appel, de contre-appel et de saisine de la Cour européenne de justice, dit Veale. À quel point le cycle recommencera. Mais la FTC, malgré ses attributions étroites, a l'autonomie d'agir maintenant.

Une grande limitation commune à la fois à la FTC et à la Commission européenne est l'incapacité de freiner l'utilisation par les gouvernements de technologies d'IA nuisibles. Les réglementations de l'UE incluent des exclusions pour l'utilisation de la surveillance par l'État, par exemple. Et la FTC n'est autorisée qu'à poursuivre les entreprises. Il pourrait intervenir en empêchant les fournisseurs privés de vendre des logiciels biaisés aux forces de l'ordre. Mais la mise en œuvre sera difficile, étant donné le secret entourant ces ventes et l'absence de règles sur ce que les agences gouvernementales doivent déclarer lorsqu'elles acquisition de technologie .

Pourtant, les annonces de cette semaine reflètent un énorme changement mondial vers une réglementation sérieuse de l'IA, une technologie qui a été développée et déployée avec peu de surveillance jusqu'à présent. Les organismes de surveillance de l'éthique réclament depuis des années des restrictions sur les pratiques déloyales et nuisibles de l'IA.

L'UE voit ses réglementations placer l'IA dans le cadre des protections existantes pour les libertés humaines. L’intelligence artificielle doit être au service des personnes, et donc l’intelligence artificielle doit toujours respecter les droits des personnes, dit Ursula von der Leyen , président de la Commission européenne, dans un discours avant la publication.

La réglementation aidera également l'IA dans son problème d'image . Comme l'a également dit von der Leyen : Nous voulons encourager nos citoyens à se sentir en confiance pour l'utiliser.

cacher