Penser aux machines émotionnelles

J'essayais de résumer les idées de Rosalind Picard en Informatique affective en discutant avec un technicien travaillant sur mon ordinateur personnel, une machine aussi friande de plantages que n'importe quel grand public d'Indianapolis 500. Quel est ce livre que tu lis ? Il a demandé. Informatique affective, était ma réponse bourrue et colérique. C'est une bonne chose, dit-il. Vous lisez des articles sur l'informatique efficace et vous n'arrivez pas à faire fonctionner votre ordinateur ! Je laisse subsister le malentendu, réalisant qu'efficace et affectif ont également des significations similaires pour Picard, professeur agrégé de technologie des médias au MIT Media Laboratory. Son livre est une proposition révolutionnaire pour rendre l'informatique plus efficace en prenant en compte les émotions.

Alors que le titre de Picard pourrait suggérer une étude centrée sur nos réponses émotionnelles à l'informatique, sa vision englobe en réalité un thème encore plus audacieux et troublant : la possibilité que les ordinateurs deviennent capables de répondre intelligemment aux émotions de leurs utilisateurs. Comme Picard l'écrit dans sa préface : je suis arrivée à la conclusion que si nous voulons que les ordinateurs soient véritablement intelligents, s'adaptent à nous et interagissent naturellement avec nous, alors ils auront besoin de la capacité de reconnaître et d'exprimer des émotions, d'avoir des émotions , et d'avoir ce qu'on a appelé l'intelligence émotionnelle.'

Cette histoire faisait partie de notre numéro de janvier 1998

• Voir le reste du numéro
• S'abonner

Ce qui ressemble à des ordinateurs totalement absurdes à l'impression de prémisses sonne comme une mise à jour cyber-âge de l'homme de fer dans Le magicien d'Oz (une machine équipée d'un cœur) - devient une réalité de plus en plus plausible à mesure que le lecteur suit le captivant de Picard (si labyrinthique) cours de raisonnement. Tout en refusant de définir étroitement les sentiments ou d'approuver une seule théorie psychologique concernant leur signification en termes de cognition et de personnalité, Picard se concentre sur les manifestations physiques des sentiments (expression faciale, intonation vocale, dilatation de la pupille) et examine comment à travers des dispositifs de détection ( gants, masques, bijoux et vêtements chargés de capteurs) les ordinateurs peuvent recevoir et agir utilement en fonction des informations sur l'émotivité de l'utilisateur. Cette entrée pourrait être interprétée par des programmes démontrant des réponses raisonnées à ce que ces modèles biologiques pourraient impliquer sur les besoins informatiques de l'utilisateur. Dans le chapitre intitulé Applications of Affective Computers, Picard énumère une gamme d'utilisations pratiques possibles, notamment l'ajout d'une inflexion émotionnelle aux programmes de synthèse vocale pour les personnes handicapées, et des logiciels éducatifs capables de reconnaître la frustration des étudiants face à la technologie et de modifier par conséquent ses modèles de présentation.

Il faut le souligner, et Picard rappelle à ses lecteurs, que l'informatique affective en est à ses balbutiements. C'est précisément parce que la faisabilité de la technologie affective-sensible est encore si inconnue que le livre de Picard semble exister dans une curieuse zone quelque part entre science et science-fiction. Le texte est divisé en deux parties, soulignant l'identité hybride du livre. La première partie est un compte rendu convaincant (quoique quelque peu décousus) de comment et pourquoi Picard a développé cette approche. La deuxième partie, qui est beaucoup moins lisible que la première, en particulier pour les non-scientifiques, décrit les conceptions informatiques affectives réelles et possibles, me laissant l'impression que de nombreuses années s'écouleront avant que l'informatique affective ne soit substantiellement réalisée.

Il y a un nombre vertigineux de problèmes techniques impliqués. Des dispositifs de biodétection pour communiquer les conséquences physiques des réponses émotionnelles de l'utilisateur sont actuellement facilement disponibles. Les aspects risqués de la technologie semblent tourner autour de la question de savoir comment programmer les ordinateurs pour traiter les données émotionnelles de manière cohérente et intelligente. Picard semble s'appuyer sur le modèle conceptuel de l'émotion proposé par Daniel Goleman dans Emotional Intelligence (Bantam, 1995) : les émotions sont des événements sur lesquels on peut raisonner. Les humains peuvent réfléchir aux sentiments afin de tracer des plans d'action souhaitables, et Picard démontre de manière convaincante que les ordinateurs peuvent également être conçus pour réfléchir aux sentiments et à la manière d'agir rationnellement à la lumière d'eux.

Là où Picard passe de la science à la science-fiction, c'est lorsqu'elle envisage des ordinateurs possédant leur propre intelligence émotionnelle indépendamment de leurs opérateurs humains. Dans sa contribution époustouflante à HAL's Legacy: 2001's Computer as Dream and Reality de David G. Stork (MIT Press, 1997), elle soulève une question utilement troublante : pouvons-nous créer des ordinateurs qui reconnaîtront et exprimeront l'affect, ressentiront de l'empathie, feront preuve de créativité et une résolution intelligente des problèmes, et ne causent jamais de mal par leurs réactions émotionnelles ?

Mais même si tous les obstacles techniques entourant l'informatique affective peuvent être surmontés, la question profonde entourant la technologie affective pourrait ne pas pivoter sur une boîte mais sur un devoir. Devrions-nous nous tourner vers les machines pour mieux comprendre que faire des sentiments dans nos cœurs ? Une image pessimiste vient à l'esprit à mesure que la question est posée. Le HAL presque humain du film de 2001 a définitivement un courant sous-jacent à la Frankenstein: HAL tue l'équipage humain du vaisseau spatial sans un pincement au cœur.

Mais revenons à l'image du Tin Man dans Le Magicien d'Oz, qui pourrait être une meilleure métaphore de la vision de Picard que HAL. Rappelez-vous que le sorcier fait une opération sur l'homme de fer, coupe un espace à travers son armure et insère un cœur en soie rempli de sciure de bois. N'est-ce pas une beauté? demande le sorcier. Et en deux phrases, l'auteur, L. Frank Baum, va droit au but, anticipant de près d'un siècle les débats sur la façon de créer (et si nous devions créer) des technologies humaines et humanisantes : C'est en effet ! répond le Tin Man, Mais est-ce un bon cœur ?

C'est tout à l'honneur de Picard qu'elle soit consciente des nombreux dilemmes éthiques et moraux soulevés par la perspective de la technologie affective. Ce livre n'essaie vraiment pas de traiter en profondeur de ces dimensions. C'est plutôt une préface révolutionnaire à une direction plausible dans la conception informatique, une direction qui ouvrira inévitablement des boîtes de Pandore au-delà du domaine de l'invention technologique.

J'aime le fait que Picard me demande de poser des questions telles que mon ordinateur peut-il être programmé pour faire preuve d'une véritable empathie envers moi ? Tout aussi attrayante est sa conclusion perspicace sur le sens mesuré de sa découverte : il y a un temps pour exprimer ses émotions, et un temps pour s'abstenir ; un temps pour ressentir ce que les autres ressentent et un temps pour ignorer les sentiments… . À chaque fois, nous avons besoin d'un équilibre, et cet équilibre fait défaut en informatique. Les concepteurs de l'informatique future peuvent poursuivre le développement d'ordinateurs qui ignorent les émotions… ou ils peuvent prendre le risque de fabriquer des machines qui reconnaissent les émotions, les communiquent et les possèdent, du moins de la manière dont les émotions aident à l'interaction et à la décision intelligentes. fabrication.

Le fait que Picard prenne le risque de sauter en terra incognita est un motif de réjouissance. Il y a une profonde sensibilité mariée à un savoir-faire technique tout au long de ces pages, et j'espère que Picard aurait donné à HAL un modèle de cerveau sensible, le Tin Man un bon cœur, et donnera, si possible, aux futurs ordinateurs affectifs quelque chose qui s'apparente à un noble âme.

cacher