Qui va réguler l'IA ? Ça pourrait etre vous.

Du rôle de Facebook dans la diffusion de fausses informations aux nouvelles lois européennes sur le droit d'auteur, c'est le sujet le plus brûlant de la technologie en ce moment. Comment les entreprises technologiques devraient-elles être réglementées ? Comment cette réglementation suit-elle les technologies émergentes telles que l'IA ? Et qui s'assurera que les nouvelles lois n'étouffent pas l'innovation ?

Il est vrai que les législateurs ont souvent du mal à comprendre les concepts techniques de base, tandis que les entreprises font progresser les technologies beaucoup plus rapidement que les gouvernements et le système juridique ne peuvent y faire face. S'exprimant à EmTech Digital, la conférence sur l'IA du MIT Technology Review, un groupe d'experts de premier plan sur l'IA et la politique a suggéré que de nouvelles normes et une coopération étaient nécessaires.

Alors que le chef de la politique de Google, Kent Walker a annoncé la formation d'un nouveau conseil consultatif externe pour le développement de l'IA , Rashida Richardson, directrice de la recherche sur les politiques au Institut AI Now , a déclaré que l'accent devrait être mis sur les technologues et les grandes entreprises agissant pour empêcher l'utilisation abusive des systèmes qu'ils construisent.

Qui porte la charge de s'assurer que les technologies émergentes ne sont pas discriminatoires ? elle a demandé.

Les conséquences involontaires - par exemple, lorsque les systèmes de reconnaissance faciale produisent de faux positifs - sont trop dangereuses pour de nombreux groupes de personnes, a-t-elle déclaré, et les systèmes formés sur de mauvaises données ne font que renforcer les préjugés préexistants. Mais prévenir les abus tout en encourageant simultanément le développement est clairement quelque chose avec lequel la loi se débat.

Les entreprises et les individus responsables de la création des technologies émergentes ont une obligation. Ils doivent faire preuve de diligence raisonnable, en interrogeant en profondeur le contexte dans lequel un ensemble de données a été créé, par exemple, a déclaré Richardson. Dans d'autres cas, il arrive que les entreprises trouvent que leur technologie ne peut pas être protégée contre la discrimination, et elles devront prendre une décision difficile quant à savoir si elles doivent mettre ce produit sur le marché.

Brendan McCord, conseiller du département américain de la Défense, a déclaré que les entreprises les plus grandes et les plus influentes devraient utiliser leur immense pouvoir et jouer un rôle plus actif pour aider à façonner les efforts de réglementation.

Les groupes de la société civile font du bon travail en essayant de sensibiliser à ces questions, a-t-il déclaré. Mais les entreprises ont une énorme capacité à conduire cette conversation.

McCord, qui a précédemment travaillé sur le projet controversé Maven du Pentagone, a suggéré qu'un consortium d'entreprises de premier plan pourrait aider à établir des normes de l'industrie ou même travailler avec les législateurs pour concevoir des approches pérennes pour réglementer l'IA, l'apprentissage automatique et d'autres technologies en évolution rapide.

Je pense qu'une bonne stratégie consiste à ce que des entreprises [comme Google] s'associent à d'autres entreprises et créent une dynamique, créent une pression pour le bon type de réglementation et la codifient, ce qui entraîne un cercle vertueux dans lequel d'autres entreprises doivent se conformer à cette réglementation. , il a dit.

Cependant, cela obligerait les entreprises à travailler beaucoup plus dur pour faire passer l'intérêt du public avant leurs propres profits, a-t-il ajouté.

Walker de Google a déclaré qu'il existait de nombreux exemples d'entreprises prenant de bonnes décisions et que Google lui-même examinait les éléments des nouvelles lois européennes sur la confidentialité des données qu'il pourrait être en mesure d'importer aux États-Unis.

Mais les preuves suggèrent que les approches actuelles de l'autorégulation ont montré de nombreuses faiblesses et ne se manifestent souvent que face aux menaces des gouvernements ou des tribunaux. Facebook a annoncé il y a moins d'une semaine qu'il allait cesser d'autoriser les annonceurs à cibler la race, le sexe et l'âge, par exemple. Cette décision, cependant, n'est intervenue qu'après une série de poursuites accusant l'entreprise de violer les lois sur les droits civils établies dans les années 1960.

Richardson d'AI Now a déclaré qu'il est difficile de réglementer les technologies émergentes car elles évoluent si rapidement et laissent souvent de côté des parties prenantes importantes.

Il y a une rhétorique très ambiguë autour de l'égalité, a-t-elle dit. Il est vraiment difficile de dire 'Nous ne ferons pas de mal aux gens avec cette technologie'. Qui prend cette décision ?

C'est plus difficile à réglementer, car soit vous avez un moratoire complet jusqu'à ce que nous le comprenions, soit vous vivez dans le monde dans lequel nous vivons en ce moment, dans lequel vous essayez de vous rattraper.

cacher