Établir un code de déontologie de l'IA sera plus difficile que les gens ne le pensent

Varoon Mathur / Institut AI Now

Au cours des six dernières années, le service de police de la ville de New York a compilé une énorme base de données contenant les noms et les détails personnels d'au moins 17 500 personnes qu'elle soupçonne d'être impliquées dans des gangs criminels. L'effort a déjà été critiqué par des militants des droits civiques qui disent qu'il est inexact et racialement discriminatoire.

'Imaginez maintenant que vous associez la technologie de reconnaissance faciale au développement d'une base de données qui suppose théoriquement que vous faites partie d'un gang', a déclaré Sherrilyn Ifill, présidente et directrice-avocate du fonds NAACP Legal Defence. Symposium AI Now à New York mardi dernier.

Les avocats, les militants et les chercheurs soulignent le besoin d'éthique et de responsabilité dans la conception et la mise en œuvre des systèmes d'IA. Mais cela ignore souvent quelques questions délicates : qui définit cette éthique et qui doit la faire respecter ?

Sherrilyn Ifill (NAACP Legal Defence Fund), Timnit Gebru (Google) et Nicole Ozer (ACLU) en conversation lors du symposium AI Now 2018. Andrew Federman pour l'Institut AI Now

Non seulement la reconnaissance faciale est imparfaite, études ont montré que le logiciel leader est moins précis pour les personnes à la peau foncée et les femmes. Selon l'estimation d'Ifill, la base de données de la police comprend entre 95 et 99 % d'Afro-Américains, de Latino et d'Asiatiques. 'Nous parlons de créer une classe de […] personnes marquées d'une sorte d'étiquette criminelle', a déclaré Ifill.

Pendant ce temps, les services de police des États-Unis, du Royaume-Uni et de Chine ont commencé à adopter la reconnaissance faciale comme outil pour trouver des criminels connus. En juin, la police du sud du Pays de Galles publié une déclaration justifiant leur utilisation de la technologie en raison de l''avantage public' qu'elle procure.

En effet, la technologie met souvent en évidence les normes éthiques différentes des gens, qu'il s'agisse censurer le discours de haine ou en utilisant des outils d'évaluation des risques pour améliorer la sécurité publique .

Pour tenter de mettre en évidence à quel point les principes des gens peuvent être divergents, les chercheurs du MIT ont créé une plate-forme appelée le Machine morale pour recueillir l'opinion humaine sur les décisions morales que devraient suivre les voitures autonomes. Ils ont demandé à des millions de personnes du monde entier de se prononcer sur les variations du classique ' problème de chariot ' en choisissant à qui une voiture doit essayer de donner la priorité en cas d'accident. Les résultats montrent une énorme variation entre les différentes cultures.

Établir des normes éthiques ne change pas nécessairement les comportements. En juin, par exemple, après Google D'accord d'interrompre ses travaux sur le projet Maven avec le Pentagone, il a établi un nouvel ensemble de principes éthiques pour guider son implication dans les futurs projets d'IA. Quelques mois plus tard, de nombreux employés de Google ont le sentiment que ces principes ont été mis de côté avec une offre pour un Contrat de 10 milliards de dollars du ministère de la Défense . À étude récente de l'Université d'État de Caroline du Nord a également constaté que demander aux ingénieurs logiciels de lire un code d'éthique ne changeait en rien leur comportement.

Philip Alston, juriste international à la faculté de droit de la NYU, propose une solution à la nature ambiguë et irresponsable de l'éthique : recadrer les conséquences de l'IA en termes de droits de l'homme. '[Les droits de l'homme sont] dans la constitution', a déclaré Alston lors de la même conférence. «Ils sont dans la déclaration des droits; ils ont été interprétés par les tribunaux », a-t-il déclaré. Si un système d'IA prive les gens de leurs droits fondamentaux, il ne devrait pas être acceptable, a-t-il déclaré.

Philip Alston (NYU School of Law), Virginia Eubanks (University at Albany, SUNY) et Vincent Southerland (Center on Race, Inequality, and the Law at NYU) sur scène lors du symposium. Andrew Federman pour l'Institut AI Now

Alston n'est pas le seul à avoir trouvé cette solution. Moins d'une semaine avant le symposium, le Data & Society Research Institute a publié un proposition pour avoir utilisé les droits humains internationaux pour gouverner l'IA. Le rapport comprend des recommandations pour que les entreprises technologiques s'engagent avec des groupes de défense des droits civiques et des chercheurs, et mènent des évaluations d'impact sur les droits de l'homme sur les cycles de vie de leurs systèmes d'IA.

'Jusqu'à ce que nous commencions à introduire [les droits de l'homme] dans la discussion sur l'IA', a ajouté Alston, 'il n'y a pas d'ancrage solide'.

cacher