Les chercheurs d'Emotion AI disent que les affirmations exagérées donnent une mauvaise réputation à leur travail

Une illustration. Sur la gauche, des découpes éparses de parties du visage comme des yeux et des bouches contenues dans une boîte. Milieu : un visage complet, les yeux fermés. A droite : un réseau en forme de tête. Franziska Barczyk

Peut-être avez-vous entendu parler de l'IA menant des entretiens. Ou peut-être avez-vous été interviewé par l'un d'eux vous-même. Des entreprises comme HireVue affirment que leur logiciel peut analyser des entretiens vidéo pour déterminer le profil d'un candidat. score d'employabilité . Les algorithmes n'évaluent pas seulement la posture du visage et du corps pour l'apparence ; ils indiquent également aux employeurs si la personne interrogée est tenace ou doué pour travailler en équipe . Ces évaluations pourraient avoir un effet important sur l'avenir d'un candidat. Dans le nous et Corée du Sud , où le recrutement assisté par l'IA est devenu de plus en plus populaire, les consultants en carrière forment désormais les nouveaux diplômés et les demandeurs d'emploi sur la façon d'interviewer avec un algorithme. Cette technologie est également déployée sur les enfants dans les salles de classe et a été utilisé dans des études pour détecter la tromperie dans les vidéos des salles d'audience .

Mais bon nombre de ces promesses ne sont pas étayées par un consensus scientifique. Il n'y a pas d'études solides et évaluées par des pairs prouvant que l'analyse de la posture corporelle ou des expressions faciales peut aider à sélectionner les meilleurs travailleurs ou étudiants (en partie parce que les entreprises sont secrètes sur leurs méthodes). En conséquence, le battage médiatique autour de la reconnaissance des émotions, qui est p devrait représenter un marché de 25 milliards de dollars d'ici 2023 , a créé une réaction violente de la part des éthiciens et des militants de la technologie qui craignent que la technologie ne soulève les mêmes types de problèmes de discrimination que peine prédictive ou algorithmes de logement pour les propriétaires qui décident à qui louer.

Le battage médiatique inquiète aussi les chercheurs. Beaucoup conviennent que leur travail - qui utilise diverses méthodes (comme l'analyse des micro-expressions ou de la voix) pour discerner et interpréter les expressions humaines - est coopté et utilisé dans des applications commerciales qui ont une base scientifique fragile. Ils disent qu'un manque de réglementation gouvernementale n'est pas seulement mauvais pour les consommateurs. C'est mauvais pour eux aussi.

Le bien et le mal

La reconnaissance des émotions, un sous-ensemble de l'informatique affective, est encore une technologie naissante. Alors que les chercheurs en intelligence artificielle ont testé les limites de ce que nous pouvons et ne pouvons pas quantifier sur le comportement humain, la science sous-jacente des émotions a continué à se développer. Il existe encore plusieurs théories, par exemple, sur la question de savoir si les émotions peuvent être distinguées de manière discrète ou tomber sur un continuum. Pendant ce temps, les mêmes expressions peuvent signifier différentes choses dans différentes cultures. En juillet, un méta-étude a conclu qu'il n'est pas possible de juger de l'émotion en regardant simplement le visage d'une personne. L'étude a été largement couverte (y compris dans cette publication), souvent avec des titres suggérant que on ne peut pas faire confiance à la reconnaissance des émotions .

Les chercheurs en reconnaissance des émotions sont déjà conscients de cette limitation. Ceux à qui nous avons parlé ont pris soin de faire des déclarations sur ce que leur travail peut et ne peut pas faire. Beaucoup ont souligné que la reconnaissance des émotions ne peut pas réellement évaluer les émotions et l'expérience internes d'un individu. Il ne peut qu'estimer comment les émotions de cet individu pourraient être perçues par les autres, ou suggérer des tendances générales basées sur la population (comme un film suscitant, en moyenne, une réaction plus positive qu'un autre). Aucun chercheur sérieux ne prétendrait que vous pouvez analyser les unités d'action en face et ensuite vous savez réellement ce que les gens pensent, déclare Elisabeth André, experte en informatique affective à l'Université d'Augsbourg.

Les chercheurs notent également que la reconnaissance des émotions implique bien plus que simplement regarder le visage de quelqu'un. Cela peut également impliquer l'observation de la posture du corps, de la démarche et d'autres caractéristiques, ainsi que l'utilisation de capteurs biométriques et audio pour collecter des données plus holistiques.

De telles distinctions sont belles mais importantes : elles disqualifient des applications comme HireVue, qui prétendent évaluer la compétence inhérente d'un individu, mais en soutiennent d'autres, comme les technologies visant à faire des machines des collaborateurs et des compagnons plus intelligents pour les humains. (HireVue n'a pas répondu à une demande de commentaire.) Un robot humanoïde peut sourire lorsque vous souriez, une action de miroir que les humains utilisent souvent pour rendre les interactions plus naturelles. Un appareil portable pourrait vous rappeler de vous reposer s'il détecte des niveaux de cortisol supérieurs aux niveaux de base, l'hormone du stress du corps. Aucune de ces applications ne nécessite un algorithme pour évaluer vos pensées et sentiments privés ; ils ne nécessitent qu'une estimation d'une réponse appropriée aux niveaux de cortisol ou au langage corporel. Ils ne prennent pas non plus de décisions à enjeux élevés concernant la vie d'un individu, contrairement aux algorithmes d'embauche non éprouvés. Si nous voulons que les ordinateurs et les systèmes informatiques nous aident, il serait positif qu'ils aient une idée de ce que nous ressentons, déclare Nuria Oliver, scientifique en chef des données à l'association à but non lucratif DataPop Alliance.

Mais une grande partie de cette nuance se perd lorsque la recherche sur la reconnaissance des émotions est utilisée pour créer des applications commerciales lucratives. Les mêmes algorithmes de surveillance du stress dans un appareil portable pourraient être utilisés par une entreprise essayant de s'assurer que vous travaillez suffisamment dur. Même pour des entreprises comme Affectiva, fondée par des chercheurs qui parlent de l'importance de la vie privée et de l'éthique, les frontières sont difficiles à définir. Il a a vendu sa technologie à HireVue . (Affectiva a refusé de commenter des entreprises spécifiques.)

Un appel à la réglementation

En décembre, l'institut de recherche AI ​​Now a appelé à l'interdiction des technologies de reconnaissance des émotions dans les décisions importantes qui ont un impact sur la vie des gens . C'est l'un des premiers appels à interdire une technologie qui a reçu moins d'attention réglementaire que d'autres formes d'intelligence artificielle, même si son utilisation dans la sélection d'emplois et les salles de classe pourrait avoir de graves effets.

En revanche, le Congrès vient de tenir sa troisième audience sur la reconnaissance faciale en moins d'un an , et il a devenir un enjeu lors des élections de 2020 . Les militants s'efforcent de boycotter les technologies de reconnaissance faciale et plusieurs représentants reconnaissent la nécessité d'une réglementation dans les secteurs privé et public. Pour l'informatique affective, il n'y a pas eu autant de campagnes et de groupes de travail dédiés, et les tentatives de réglementation ont été limitées. Une loi de l'Illinois régulation de l'analyse par IA des vidéos d'entretiens d'embauche est entré en vigueur en janvier et la Federal Trade Commission a été invitée à enquêter sur H ireVue (bien qu'on ne sache pas si elle a l'intention de le faire).

Bien que de nombreux chercheurs pensent qu'une interdiction est trop large, ils conviennent qu'un vide réglementaire est également nocif. Nous avons des processus clairement définis pour certifier que certains produits que nous consommons, qu'il s'agisse de nourriture que nous consommons ou de médicaments que nous prenons, peuvent être consommés en toute sécurité, et ils font réellement tout ce qu'ils prétendent faire, dit Oliver . Nous n'avons pas les mêmes processus pour la technologie. Elle pense que les entreprises dont les technologies peuvent affecter de manière significative la vie des gens devraient prouver qu'elles respectent un certain niveau de sécurité.

Rosalind Picard, professeur au MIT Media Lab qui a cofondé Affectiva et une autre startup informatique affective, Empatica, fait écho à ce sentiment. Pour un modèle de régulation existant, elle pointe le Loi sur la protection du polygraphe des employés limiter l'utilisation des détecteurs de mensonges, qui, selon elle, sont essentiellement une technologie informatique affective. Par exemple, la loi interdit à la plupart des employeurs privés d'utiliser des polygraphes et ne permet pas aux employeurs de demander les résultats des tests au détecteur de mensonges.

Elle suggère que toute utilisation de ces technologies devrait être facultative et que les entreprises devraient être tenues de divulguer comment leurs technologies ont été testées et quelles sont leurs limites. Ce que nous avons aujourd'hui, c'est que [les entreprises] peuvent faire ces affirmations scandaleuses qui sont tout simplement fausses, car en ce moment, l'acheteur n'est pas si bien éduqué, dit-elle. Et nous ne devrions pas exiger que les acheteurs soient bien éduqués. (Picard, qui dit avoir quitté Affectiva en 2013, ne soutient pas les affirmations de HireVue.)

Pour sa part, Meredith Whittaker, chercheuse scientifique à NYU et co-directrice d'AI Now, souligne la différence entre recherche et commercialisation. Nous ne contestons pas tout le domaine de l'informatique affective, dit-elle. Nous dénonçons en particulier le déploiement non réglementé, non validé et scientifiquement infondé de technologies commerciales de reconnaissance des affects. La commercialisation nuit aux gens en ce moment, potentiellement, parce qu'elle fait des revendications qui déterminent l'accès des gens aux ressources.

Une interdiction d'utiliser la reconnaissance des émotions dans des applications telles que la sélection d'emplois aiderait à empêcher la commercialisation de dépasser la science. Arrêtez d'abord le déploiement des technologies, dit-elle, puis investissez dans la recherche. Si la recherche confirme que les technologies fonctionnent comme le prétendent les entreprises, envisagez alors d'assouplir l'interdiction.

Cependant, d'autres réglementations seraient encore nécessaires pour assurer la sécurité des personnes : il y a finalement plus à considérer, selon Whittaker, que la simple crédibilité scientifique. Nous devons nous assurer, lorsque ces systèmes sont utilisés dans des contextes sensibles, qu'ils sont contestables, qu'ils sont utilisés équitablement, dit-elle, et qu'ils ne conduisent pas à des asymétries de pouvoir accrues entre les personnes qui les utilisent et les personnes sur lesquelles ils sont utilisés.

cacher