IBM dit qu'il ne travaille plus sur la reconnaissance faciale car elle est utilisée pour le profilage racial

Catégorie: Intelligence artificielle Posté juin 09

Les nouvelles: IBM a déclaré que la société cesserait de développer ou de vendre des logiciels de reconnaissance faciale en raison de préoccupations selon lesquelles la technologie est utilisée pour promouvoir le racisme. Dans un lettre au Congrès , le PDG d'IBM, Arvind Krishna, a déclaré que le géant de la technologie s'oppose à toute technologie utilisée pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de l'homme.

Il a appelé à un dialogue national sur l'opportunité et la manière dont il est approprié que la technologie de reconnaissance faciale soit utilisée par les forces de l'ordre nationales. La lettre appelait également à de nouvelles règles fédérales pour réprimer les fautes policières, et à davantage de formation et d'éducation pour les compétences recherchées afin d'améliorer les opportunités économiques pour les personnes de couleur.

Ce n'est pas nouveau : Les militants et les experts soulignent depuis des années que les systèmes de reconnaissance faciale sont biaisés et signalent des inquiétudes quant à son potentiel d'abus . Leurs inquiétudes sont légitimes : un étude historique par le National Institute of Standards and Technology des États-Unis l'année dernière a confirmé que la majorité des algorithmes de reconnaissance faciale fonctionnaient moins bien sur les visages non blancs.

Comment il a été reçu : IBM est la première grande entreprise technologique à se retirer complètement du développement de la technologie. Bien que la nouvelle ait été largement reçue positivement par les travailleurs de la technologie, et en particulier les militants inquiets de l'utilisation de la reconnaissance faciale, les critiques ont fait remarquer que ce n'est pas un grand sacrifice pour IBM de quitter un marché sur lequel il avait à peine pris pied au départ.

Malgré cela, il s'agit toujours d'une grande entreprise de technologie qui adopte une position morale inhabituellement forte sur l'un des sujets les plus controversés de la journée. C'est particulièrement opportun étant donné les protestations en cours contre la violence policière et le racisme aux États-Unis et dans le monde. Mais il n'est pas clair si cela restera un changement ponctuel d'IBM ou un mouvement qui aide à pousser d'autres entreprises technologiques à l'action.