Nous avons besoin d'ordinateurs avec empathie

Je répétais récemment un discours pour une conférence sur l'IA lorsque j'ai mentionné Amazon Alexa. À quel point Alexa s'est réveillée et a annoncé : Jouer Selena Gomez. J'ai dû crier Alexa, arrête ! plusieurs fois avant même qu'elle m'entende.

Mais Alexa était inconsciente de mon agacement. Comme la majorité des assistants virtuels et d'autres technologies, elle n'a aucune idée de ce que nous ressentons.

Cette histoire faisait partie de notre numéro de novembre 2017

• Voir la suite du problème
• S'abonner

Nous sommes maintenant entourés d'appareils intelligents hyper-connectés qui sont autonomes, conversationnels et relationnels, mais ils sont complètement dépourvus de toute capacité à dire à quel point nous sommes agacés, heureux ou déprimés. Et c'est un problème.

Et si, au contraire, ces technologies – haut-parleurs intelligents, véhicules autonomes, téléviseurs, réfrigérateurs connectés, téléphones portables – étaient conscientes de vos émotions ? Et s'ils captaient un comportement non verbal en temps réel ? Votre voiture pourrait remarquer que vous avez l'air fatigué et proposer de prendre le volant. Votre réfrigérateur pourrait vous aider à adopter une alimentation plus saine. Votre tracker de fitness portable et votre téléviseur pourraient s'associer pour vous faire sortir du canapé. Votre miroir de salle de bain pourrait sentir que vous êtes stressé et ajuster l'éclairage tout en allumant la bonne musique qui améliore l'ambiance. Les technologies sensibles à l'humeur feraient des recommandations personnalisées et encourageraient les gens à faire les choses différemment, mieux ou plus rapidement.

Aujourd'hui, une catégorie émergente d'IA - l'intelligence émotionnelle artificielle ou IA émotionnelle - se concentre sur le développement d'algorithmes capables d'identifier non seulement les émotions humaines de base telles que le bonheur, la tristesse et la colère, mais également des états cognitifs plus complexes tels que la fatigue, l'attention, l'intérêt. , confusion, distraction, etc.

Je m'attends à ce que les technologies qui nous entourent deviennent sensibles aux émotions dans les cinq prochaines années.

Mon entreprise, Affectiva, fait partie de celles qui travaillent à la construction de tels systèmes. Nous avons compilé un vaste corpus de données composé de six millions de vidéos de visages collectées dans 87 pays, permettant à un moteur d'IA d'être réglé pour de vraies expressions d'émotion dans la nature et de tenir compte des différences culturelles dans l'expression émotionnelle.

À l'aide de la vision par ordinateur, de l'analyse de la parole et de l'apprentissage en profondeur, nous classons les expressions faciales et vocales de l'émotion. Il reste de nombreux défis à relever. Comment formez-vous de tels systèmes multimodaux ? Et comment collectez-vous des données pour des émotions moins fréquentes, comme la fierté ou l'inspiration ?

David Bishop

Néanmoins, le domaine progresse si rapidement que je m'attends à ce que les technologies qui nous entourent deviennent sensibles aux émotions dans les cinq prochaines années. Ils liront et réagiront aux états cognitifs et émotionnels humains, exactement comme le font les humains. Emotion AI sera ancrée dans les technologies que nous utilisons au quotidien, fonctionnant en arrière-plan, rendant nos interactions technologiques plus personnalisées, pertinentes, authentiques et interactives. Il est difficile de se rappeler maintenant comment c'était avant que nous ayons des interfaces tactiles et la reconnaissance vocale. Finalement, nous ressentirons la même chose à propos de nos appareils sensibles aux émotions.

Voici quelques-unes des applications qui me passionnent le plus.

Automobile : Un véhicule conscient des occupants pourrait surveiller la fatigue, la distraction et la frustration du conducteur. Au-delà de la sécurité, votre voiture peut personnaliser l'expérience en cabine, en modifiant la musique ou les paramètres ergonomiques en fonction de qui se trouve dans la voiture.

Histoire connexe

Histoire connexe Une technologie de lecture des émotions sur les visages peut aider les entreprises à vendre des bonbons. Maintenant, ses créateurs espèrent qu'il pourra également s'attaquer à de plus gros problèmes.

Éducation : Dans les environnements d'apprentissage en ligne, il est souvent difficile de dire si un élève est en difficulté. Au moment où les résultats des tests sont en retard, il est souvent trop tard - l'étudiant a déjà arrêté. Et si les systèmes d'apprentissage intelligents pouvaient offrir une expérience d'apprentissage personnalisée ? Ces systèmes offriraient une explication différente lorsque l'élève est frustré, ralentit en période de confusion ou raconte simplement une blague lorsqu'il est temps de s'amuser.

Soins de santé : Tout comme nous pouvons suivre notre condition physique et notre santé physique, nous pourrions suivre notre état mental, en envoyant des alertes à un médecin si nous choisissons de partager ces données. Les chercheurs se penchent sur l'IA émotionnelle pour le diagnostic précoce de troubles tels que la maladie de Parkinson et la maladie coronarienne, ainsi que pour la prévention du suicide et le soutien à l'autisme.

la communication : Il existe de nombreuses preuves que nous traitons déjà nos appareils, en particulier les interfaces conversationnelles, comme nous nous traitons les uns les autres. Les gens nomment leurs robots sociaux, ils confient à Siri qu'ils ont été maltraités physiquement et ils demandent à un chatbot un soutien moral alors qu'ils se dirigent vers une chimiothérapie. Et c'est avant même que nous ayons ajouté de l'empathie. D'autre part, nous savons que les jeunes générations perdent une certaine capacité d'empathie parce qu'elles grandissent avec des interfaces numériques dans lesquelles l'émotion, la principale dimension de ce qui nous rend humain, fait défaut. L'IA émotionnelle pourrait donc nous rapprocher.

Comme pour toute nouvelle technologie, il existe un potentiel de bien et d'abus. Il est difficile d'obtenir plus de données personnelles que des données sur vos émotions. Les gens devraient être obligés d'accepter tout type de partage de données et ils devraient savoir à quoi servent les données. Nous devrons également déterminer si certaines applications dépassent les limites morales. Nous devrons déterminer les règles en matière de confidentialité et d'éthique. Nous devrons travailler pour éviter de créer des biais dans ces applications. Mais je crois fermement que le potentiel de bien l'emporte de loin sur le mal.

Rana el Kaliouby est PDG et cofondatrice d'Affectiva. En 2012, elle a été nommée l'une des Examen de la technologie MIT 35 innovateurs de moins de 35 ans.

cacher