Des chercheurs en intelligence artificielle affirment que les éditeurs scientifiques contribuent à perpétuer les algorithmes racistes

Catégorie: Intelligence artificielle Posté 23 juin

Les nouvelles: Une lettre ouverte d'une coalition croissante de chercheurs en intelligence artificielle appelle l'éditeur scientifique Springer Nature pour un article de conférence qu'il aurait prévu d'inclure dans son prochain livre Transactions sur la science computationnelle et l'intelligence computationnelle . L'article, intitulé A Deep Neural Network Model to Predict Criminality Using Image Processing, présente un système de reconnaissance faciale prétendument capable de prédire si quelqu'un est un criminel, selon le communiqué de presse original . Il a été développé par des chercheurs de l'Université de Harrisburg et devait être présenté lors d'une prochaine conférence.

Les demandes: Citant le travail de leader Black AI savants , la lettre démystifie la base scientifique de l'article et affirme que les technologies de prédiction de la criminalité sont racistes. Il énumère également trois demandes : 1) que Springer Nature annule son offre de publier l'étude ; 2) qu'il publie une déclaration condamnant l'utilisation de techniques statistiques telles que l'apprentissage automatique pour prédire la criminalité et reconnaissant son rôle dans l'incitation à de telles recherches ; et 3) que tous les éditeurs scientifiques s'engagent à ne pas publier d'articles similaires à l'avenir. La lettre, qui a été envoyée à Springer Nature lundi, a été rédigée à l'origine par cinq chercheurs du MIT, du Rensselaer Polytechnic Institute, de l'Université McGill et de l'AI Now Institute. En quelques jours, il a recueilli plus de 600 signatures et compte dans les communautés éthiques et universitaires de l'IA, y compris de personnalités telles que Meredith Whittaker, cofondatrice de l'AI Now Institute, et Ethan Zuckerman, ancien directeur du Center for Civic Media à le laboratoire des médias du MIT.

Pourquoi est-ce important: Alors que la lettre met en évidence un article spécifique, l'objectif des auteurs est de démontrer un problème systématique avec la façon dont l'édition scientifique incite les chercheurs à perpétuer des normes contraires à l'éthique. C'est pourquoi nous continuons à voir la science de la race émerger à maintes reprises, a déclaré Chelsea Barabas, doctorante au MIT et l'une des coauteurs de la lettre. C'est parce que les éditeurs le publient. La véritable signification de cette pièce de Springer est qu'elle n'est pas du tout unique, a fait écho Theodora Dryer, chercheuse postdoctorale à AI Now et autre co-auteur. C'est emblématique d'un problème et d'une critique qui dure depuis si longtemps.

Réponse de Springer : En réponse à la lettre, Springer a déclaré qu'il ne publierait pas le journal. Le document auquel vous faites référence a été soumis à une prochaine conférence dont Springer avait prévu de publier les actes, a-t-il déclaré. Après un processus approfondi d'examen par les pairs, l'article a été rejeté. L'Université de Harrisburg a également a retiré son communiqué de presse , indiquant que la faculté met à jour le document pour répondre aux préoccupations soulevées. L'Université de Harrisburg et un co-auteur de l'article ont refusé une demande de commentaire ainsi qu'une demande d'exemplaire de l'article original. Les signataires de la lettre ont déclaré qu'ils continueraient à faire pression pour que leurs deuxième et troisième demandes soient satisfaites.

La plus grande image : Depuis que la mort de George Floyd a déclenché un mouvement international pour la justice raciale, le domaine de l'IA et l'industrie technologique dans son ensemble ont été confrontés à un examen du rôle qu'ils ont joué dans le renforcement du racisme structurel. Au cours de la semaine du 8 juin, par exemple, IBM, Microsoft et Amazon ont tous annoncé la fin ou la suspension partielle de leurs produits de reconnaissance faciale. Le déménagement était l'aboutissement de deux ans de plaidoyer de chercheurs et de militants pour démontrer un lien entre ces technologies et la surpolice des communautés minoritaires. La lettre ouverte est le dernier développement de ce mouvement vers une plus grande responsabilité éthique dans l'IA.

Nous voulions vraiment contribuer à ce mouvement grandissant, a déclaré Sonja Solomun, directrice de recherche du Centre pour les médias, la technologie et la démocratie de l'Université McGill. En particulier lorsque nous regardons par nos fenêtres et voyons ce qui se passe en ce moment aux États-Unis et dans le monde, les enjeux sont tellement élevés.

Mettre à jour: Après publication, Springer Nature a publié une déclaration précisant qu'à aucun moment [l'article] n'a été accepté pour publication... La décision de l'éditeur de la série de rejeter l'article final a été prise le mardi 16 juin et a été officiellement communiquée aux auteurs le lundi 22 Juin.'