211service.com
Microsoft crée un oracle pour attraper les algorithmes d'IA biaisés
Nom Projet | Andrejs Kirma | M / s. Technologie
Microsoft construit un outil pour identifier automatiquement les biais dans une gamme d'algorithmes d'IA différents. Il s'agit de l'effort le plus audacieux à ce jour pour automatiser la détection des injustices susceptibles de se glisser dans l'apprentissage automatique, et cela pourrait aider les entreprises à utiliser l'IA sans discriminer par inadvertance certaines personnes.
Les grandes entreprises technologiques se précipitent pour vendre des technologies d'apprentissage automatique prêtes à l'emploi accessibles via le cloud. À mesure que de plus en plus de clients utilisent ces algorithmes pour automatiser des jugements et des décisions importants, la question du biais deviendra cruciale. Et comme les biais peuvent facilement s'infiltrer dans les modèles d'apprentissage automatique, les moyens d'automatiser la détection des injustices pourraient devenir un élément précieux de la boîte à outils de l'IA.
Des choses comme la transparence, l'intelligibilité et l'explication sont suffisamment nouvelles dans le domaine pour que peu d'entre nous aient suffisamment d'expérience pour savoir tout ce que nous devrions rechercher et toutes les façons dont les biais pourraient se cacher dans nos modèles, dit Riche Caruna , chercheur principal chez Microsoft qui travaille sur le tableau de bord de détection des biais.
Le biais algorithmique est une préoccupation croissante pour de nombreux chercheurs et experts en technologie (voir Inspecting algorithms for bias ). Comme les algorithmes sont utilisés pour automatiser des décisions importantes, il existe un risque que les préjugés deviennent automatisés, déployés à grande échelle et plus difficiles à repérer pour les victimes.
Caruna dit que le produit anti-biais de Microsoft aidera les chercheurs en IA à détecter davantage de cas d'injustice, mais pas tous. Bien sûr, nous ne pouvons pas nous attendre à la perfection - il y aura toujours des biais non détectés ou qui ne peuvent pas être éliminés - le but est de faire de notre mieux, dit-il.
La chose la plus importante que les entreprises puissent faire en ce moment est d'éduquer leur personnel afin qu'ils soient conscients de la myriade de façons dont les biais peuvent survenir et se manifester et créer des outils pour rendre les modèles plus faciles à comprendre et les biais plus faciles à détecter, ajoute Caruna.
Facebook a annoncé son propre outil de détection des biais lors de sa conférence annuelle des développeurs le 2 mai. Son outil, appelé Fairness Flow, avertit automatiquement si un algorithme porte un jugement injuste sur quelqu'un en fonction de sa race, de son sexe ou de son âge. Facebook dit qu'il avait besoin de Fairness Flow parce que de plus en plus de personnes dans l'entreprise utilisent l'IA pour prendre des décisions importantes.
Ben Yu , professeur à UC Berkeley, affirme que les outils de Facebook et de Microsoft semblent être un pas dans la bonne direction, mais qu'ils ne suffisent peut-être pas. Elle suggère que les grandes entreprises devraient faire auditer leurs algorithmes par des experts externes afin de prouver qu'ils ne sont pas biaisés. Quelqu'un d'autre doit enquêter sur les algorithmes de Facebook, ils ne peuvent pas être un secret pour tout le monde, dit Yu.