La technologie de reconnaissance des émotions devrait être interdite, selon un institut de recherche sur l'IA

Catégorie: Intelligence artificielle Posté 13 décembre

Il y a peu de fondement scientifique à la technologie de reconnaissance des émotions, elle devrait donc être interdite d'utilisation dans les décisions qui affectent la vie des gens, déclare l'institut de recherche AI ​​Now dans son rapport annuel .

Un marché en plein essor : Malgré le manque de preuves que les machines peuvent déterminer ce que nous ressentons, la reconnaissance des émotions est estimée à au moins 20 milliards de dollars, et c'est grandir rapidement . La technologie est actuellement utilisée pour évaluer les candidats à un emploi et les personnes soupçonnées de crimes, et elle est testée pour d'autres applications, comme dans Casques VR pour déduire les états émotionnels des joueurs.

Autres problèmes : Il existe également des preuves que la reconnaissance des émotions peut amplifier les disparités raciales et de genre . Les régulateurs devraient intervenir pour restreindre fortement son utilisation, et d'ici là, les entreprises d'IA devraient cesser de le déployer, a déclaré AI Now. Plus précisément, il a cité une étude récente de l'Association for Psychological Science, qui a passé deux ans à examiner plus de 1 000 articles sur la détection des émotions et a conclu qu'il est très difficile d'utiliser uniquement les expressions faciales pour dire avec précision comment quelqu'un se sent.

Autres soucis : Dans son rapport, AI Now a appelé les gouvernements et les entreprises à cesser d'utiliser la technologie de reconnaissance faciale pour les applications sensibles jusqu'à ce que les risques aient été correctement étudiés, et a attaqué l'industrie de l'IA pour son racisme systémique, sa misogynie et son manque de diversité. Il a également appelé à la divulgation obligatoire de l'impact environnemental de l'industrie de l'IA.