Ce que nous pensons des robots qui se sentent

Au fur et à mesure que les robots deviennent assez intelligents pour détecter nos sentiments et réagir de manière appropriée, ils pourraient avoir quelque chose comme des émotions qui leur sont propres. Mais cela ne les rendra pas nécessairement plus comme des humains. Par

• Salle Louisa page d'archives

24 octobre 2017

Delcan & Compagnie + Jenue

Octavia, un robot humanoïde conçu pour lutter contre les incendies sur les navires de la Marine, a maîtrisé une gamme impressionnante d'expressions faciales.

Lorsqu'elle est éteinte, elle ressemble à une poupée à taille humaine. Elle a un visage blanc lisse avec un nez retroussé. Ses sourcils en plastique reposent uniformément sur son front comme deux petits canots chavirés.

Cette histoire faisait partie de notre numéro de novembre 2017

• Voir la suite du problème
• S'abonner

Quand elle est allumée, cependant, ses paupières s'ouvrent et elle commence à montrer de l'émotion. Elle peut hocher la tête dans un geste de compréhension ; elle peut écarquiller les yeux et lever les deux sourcils dans un semblant d'alarme convaincant ; ou elle peut pencher la tête d'un côté et plisser la bouche, reproduisant la confusion humaine. Pour un effet comique, elle peut même arquer un sourcil et rétrécir l'œil opposé tout en tapotant ses doigts métalliques ensemble, comme si elle complotait des actes de vengeance robotique.

Mais la gamme d'expressions faciales d'Octavia n'est pas son trait le plus impressionnant. Ce qui est étonnant, c'est que son affect émotionnel est une réponse précise à ses interactions avec les humains. Elle a l'air ravie, par exemple, lorsqu'elle reconnaît l'un de ses coéquipiers. Elle a l'air surprise lorsqu'un coéquipier lui donne une commande à laquelle elle ne s'attendait pas. Elle a l'air confuse si quelqu'un dit quelque chose qu'elle ne comprend pas.

Elle peut montrer un affect émotionnel approprié car elle traite d'énormes quantités d'informations sur son environnement. Elle peut voir, entendre et toucher. Elle fait un bilan visuel de son environnement à l'aide des deux caméras intégrées dans ses yeux et analyse des caractéristiques telles que les traits du visage, le teint et les vêtements. Elle peut détecter la voix des gens à l'aide de quatre microphones et d'un programme de reconnaissance vocale appelé Sphinx. Elle peut identifier 25 objets différents au toucher, les ayant appris en utilisant ses doigts pour les manipuler physiquement dans diverses positions et formes possibles. Ensemble, ces compétences perceptives font partie de son architecture cognitive incarnée, ce qui lui permet, selon ses créateurs au Navy Center for Applied Research in Artificial Intelligence, de penser et d'agir de manière similaire aux gens.

C’est une affirmation excitante, mais ce n’est pas nécessairement choquant. Nous sommes habitués à l'idée que des machines agissent comme des personnes. Les automates créés dans la France du XVIIIe siècle pouvaient danser, garder le temps et jouer de la batterie, du dulcimer ou du piano. En tant qu'enfant grandissant dans les années 1980, je convoitais pour une raison quelconque une poupée annoncée pour la capacité de faire pipi dans son pantalon.

L'Octavia est capable de transmettre des expressions, mais il s'avère que les expressions faciales ne sont pas nécessaires pour que les gens se sentent émotionnellement attachés à leurs robots. Laboratoire de recherche navale des États-Unis

Nous sommes même habitués à l'idée que les machines pensent d'une manière qui nous rappelle les humains. Bon nombre de nos points culminants longtemps chéris pour la cognition humaine - la capacité de battre un grand maître aux échecs, par exemple, ou de composer un sonnet métriquement précis - ont été atteints et dépassés par les ordinateurs.

Les actions d'Octavia, cependant - l'élargissement effrayant de ses yeux, le sillon confus de ses sourcils en plastique - semblent aller plus loin. Ils impliquent qu'en plus de penser comme nous pensons, elle ressent également des émotions humaines.

Ce n'est pas vraiment le cas: l'affect émotionnel d'Octavia, selon Gregory Trafton, qui dirige la section des systèmes intelligents au centre d'intelligence artificielle de la marine, vise simplement à démontrer le type de pensée qu'elle fait et à faciliter l'interaction des gens avec elle. Mais il n'est pas toujours possible de tracer une ligne entre la pensée et le sentiment. Comme Trafton le reconnaît, il est clair que les pensées et les émotions des gens sont différentes mais qu'elles ont un impact les unes sur les autres. Et si, comme il le dit, les émotions influencent la cognition et la cognition influence l'émotion, la capacité d'Octavia à penser, à raisonner et à percevoir pointe vers certaines des plus grandes questions qui accompagneront l'essor des machines intelligentes. À quel moment les machines seront-elles suffisamment intelligentes pour ressentir quelque chose ? Et comment saurions-nous vraiment?

Sentiments personnalisés

Octavia est programmée avec la théorie de l'esprit, ce qui signifie qu'elle peut anticiper les états mentaux de ses coéquipiers humains. Elle comprend que les gens ont des croyances ou des intentions potentiellement contradictoires. Lorsqu'Octavia reçoit une commande qui diffère de ses attentes, elle exécute des simulations pour déterminer ce que le coéquipier qui a donné la commande pourrait penser et pourquoi cette personne pense que cet objectif inattendu est valide. Elle le fait en parcourant ses propres modèles du monde mais en les modifiant légèrement, dans l'espoir d'en trouver un qui mène au but déclaré. Lorsqu'elle incline la tête d'un côté et fronce les sourcils, c'est pour signaler qu'elle exécute ces simulations, essayant de mieux comprendre les croyances de son coéquipier.

Nous ne savons toujours pas tout ce qui est impliqué dans le fait de ressentir des émotions.

Octavia n'est pas programmée avec des modèles émotionnels. Sa théorie de l'esprit est un schéma cognitif. Mais cela fonctionne un peu comme l'empathie, la plus chère de toutes les émotions humaines.

D'autres fabricants de robots contournent la question de l'intelligence émotionnelle de leurs machines. SoftBank Robotics, par exemple, qui vend Pepper - un robot humanoïde agréable et sympathique conçu pour servir de compagnon humain - affirme que Pepper peut percevoir l'émotion humaine, ajoutant que Pepper aime interagir avec vous, Pepper veut en savoir plus sur vos goûts, vos habitudes, et tout simplement qui vous êtes. Mais bien que Pepper puisse avoir la capacité de reconnaître les émotions humaines, et bien que Pepper puisse être capable de répondre avec des sourires heureux ou des expressions de tristesse, personne ne prétend que Pepper se sent réellement de telles émotions.

Que faudrait-il pour qu'un créateur de robots prétende cela ? D'une part, nous ne savons toujours pas tout ce qui est impliqué dans le ressenti des émotions.

Choses revues

• Culture et interaction homme-robot dans les espaces militarisés : une histoire de guerre

  Par Julie Charpentier
  Routledge, 2016

• Comment se fabriquent les émotions : la vie secrète du cerveau

  De Lisa Feldman Barrett
  Houghton Mifflin Harcourt, 2017

• La stratégie des systèmes robotiques et autonomes de l'armée américaine

  mars 2017

Ces dernières années, les révolutions de la psychologie et des neurosciences ont radicalement redéfini le concept même d'émotion, la rendant encore plus difficile à cerner et à décrire. Selon des scientifiques tels que la psychologue Lisa Feldman Barrett, professeur à la Northeastern University, il devient de plus en plus clair que nos émotions varient considérablement en fonction de la culture dans laquelle nous avons grandi. Elles varient même considérablement au sein d'un individu dans différentes situations. En fait, bien que nous partagions les sentiments généraux qui composent ce que l'on appelle l'affect (plaisir, déplaisir, excitation et calme) avec la plupart des autres humains et de nombreux autres animaux, nos émotions plus aiguës et spécifiques varient plus qu'elles ne suivent des normes particulières. La peur, par exemple, est un concept culturellement convenu, mais elle se manifeste dans notre corps de multiples façons. Il est inspiré par différents stimuli, il se manifeste différemment dans notre cerveau et il s'exprime de différentes manières sur nos visages. Il n'y a pas de centre de peur ou de circuit de peur unique dans le cerveau, tout comme il n'y a pas d'expression faciale de peur fiable : nous traitons et affichons tous notre peur de manières radicalement différentes, selon la situation - des façons dont, grâce aux interactions avec d'autres personnes, nous apprenons à identifier ou étiqueter comme peur.

Lorsque nous parlons de peur, nous parlons alors d'un concept générique généralisé plutôt que de quelque chose qui sort d'une partie spécifique du cerveau. Comme le dit Barrett, nous construisons des émotions sur place grâce à une interaction de systèmes corporels. Alors, comment pouvons-nous attendre des programmeurs qu'ils modélisent avec précision l'émotion humaine dans les robots ?

Bons soldats

Il existe également des dilemmes moraux autour de la programmation des robots pour qu'ils aient des émotions. Ces problèmes sont particulièrement bien démontrés par les robots militaires qui, comme Octavia, sont conçus pour être envoyés dans des situations effrayantes, douloureuses ou potentiellement mortelles à la place de coéquipiers humains moins indispensables.

Lors d'une conférence de 2017 parrainée par l'Initiative scientifique folle de l'armée, le lieutenant-général Kevin Mangum, commandant adjoint du Commandement de la formation et de la doctrine de l'armée, a précisé que ces robots devraient et seront autonomes. Alors que nous regardons notre monde de plus en plus complexe, il ne fait aucun doute que la robotique, les systèmes autonomes et l'intelligence artificielle joueront un rôle, a déclaré Mangum. La stratégie des systèmes robotiques et autonomes de l'Armée de terre de 2017 prévoit l'intégration complète des systèmes autonomes d'ici 2040, remplaçant les robots de neutralisation des bombes actuels et d'autres machines télécommandées par des humains.

Un entraîneur civil montre aux parachutistes comment configurer l'écran d'un robot de champ de bataille PackBot. Aussi inexpressifs que puissent paraître ces robots, les soldats sur le terrain développent des liens avec eux, les considérant comme faisant partie de l'équipe. Michael J. McLeod

Lorsque ces robots peuvent agir et penser par eux-mêmes, devraient-ils, comme Octavia, être programmés avec un semblant d'émotion humaine ? Doivent-ils être programmés pour réellement ont émotion humaine ? Si nous les envoyons au combat, devraient-ils non seulement penser mais ressentir aux côtés de leurs compagnons humains ?

D'une part, bien sûr que non : si nous concevons des robots dans le but exprès de les exposer au danger, il serait sadique de leur donner la capacité de subir la terreur, le traumatisme ou la douleur.

Mais d'un autre côté, si l'émotion affecte l'intelligence et vice versa, pourrait-on être sûr qu'un robot sans émotion ferait un bon soldat ? Et si le manque d'émotion conduisait à des décisions stupides, à des risques inutiles ou à des représailles excessivement cruelles ? Un robot sans émotion pourrait-il décider que la décision intelligente serait de commettre ce qu'un soldat humain considérerait comme un crime de guerre ? Ou un robot sans accès à la peur ou à la colère prendrait-il de meilleures décisions qu'un être humain dans la même situation effrayante et exaspérante ?

Et puis il y a la possibilité que si l'émotion et l'intelligence sont inextricablement liées, il n'y a pas de robot intelligent sans émotion, auquel cas la question de savoir combien d'émotion un robot autonome devrait avoir est, à certains égards, hors de contrôle du programmeur traitant de l'intelligence.

Attachements émotionnels

Il y a aussi la question de savoir comment ces robots pourraient affecter leurs coéquipiers humains.

En 2010, l'armée américaine avait commencé à déployer une flotte d'environ 3 000 petits robots tactiques, en grande partie en réponse à l'utilisation croissante d'engins explosifs improvisés dans la guerre. À la place des soldats humains, ces robots roulent sur des routes exposées, dans des grottes sombres et à travers des portes étroites pour détecter et désactiver les IED imprévisibles.

Des soldats ont déclaré se sentir désemparés lorsque des compagnons de champ de bataille tels que le Talon, illustré ici, sont détruits dans l'exercice de leurs fonctions. Qinetiq

Cette flotte est composée principalement de PackBot d'iRobot et de Talon de QinetiQ North America, des robots qui ne sont pas particulièrement avancés. Ils ressemblent un peu à WALL-E, leurs corps en métal carrés équilibrés sur des bandes de roulement en caoutchouc qui leur permettent de faire un assez bon travail pour traverser des terrains rocheux, monter des escaliers et se frayer un chemin dans des couloirs sombres. Ils ont des bras articulés équipés de caméras vidéo pour surveiller leur environnement et des griffes pour bricoler des engins explosifs.

Ce sont des outils utiles, mais ils ne sont pas exactement autonomes. Ils sont commandés à distance, comme des voitures miniatures, par des soldats tenant des appareils parfois équipés de manettes. Comme exemple d'IA, le PackBot n'est pas tellement plus avancé que le produit le plus connu d'iRobot, le Roomba qui aspire sous votre fauteuil.

Et pourtant, même maintenant, malgré la nature inexpressive de ces robots, les soldats humains développent des liens avec eux. Julie Carpenter démontre dans Culture et interaction homme-robot dans les espaces militarisés que ces relations sont compliquées, à la fois enrichissantes et douloureuses.

Lorsque Carpenter a demandé à un militaire de décrire ses sentiments à propos d'un robot qui avait été détruit, il a répondu :

Je veux dire, ce n'était évidemment pas… n'importe où près d'être au même niveau que, comme, vous savez, un de vos amis se blessant ou voyant un membre se faire sortir ou quelque chose comme ça. Mais il y avait toujours une certaine perte, un sentiment de perte à cause de quelque chose qui arrivait à l'un de vos robots.

Un autre militaire a comparé son robot à un chien de compagnie :

Je veux dire, tu t'en es occupé aussi bien que les membres de ton équipe. Et vous vous êtes assuré qu'il était nettoyé et que les batteries étaient toujours chargées. Et si vous ne l'utilisiez pas, il était rangé en toute sécurité au mieux parce que vous saviez que si quelque chose arrivait au robot, eh bien, c'était votre tour, et personne n'aime penser cela.

Un autre homme a expliqué pourquoi son coéquipier avait donné à leur robot un nom humain :

Vers la fin de notre tournée, nous passions plus de temps à l'extérieur du fil à dormir dans nos camions qu'à l'intérieur. Nous dormions à l'intérieur de nos camions à l'extérieur du fil pendant cinq à six jours par semaine, et il y avait trois hommes dans le camion, vous savez, un allongé sur les sièges avant ; l'autre se trouve en travers de la tourelle. Et nous ne pouvons pas télécharger des éléments sensibles et les laisser à l'extérieur du camion. Tout doit être verrouillé, donc notre TALON était dans l'allée centrale de notre camion et notre gars junior l'a nommé Danielle pour qu'il ait une femme à câliner la nuit.

'Mon beau robot a été tué...' était en fait la déclaration que j'ai faite à mon chef d'équipe.

Ces hommes insistent tous sur le fait que les robots sont des outils, et non des créatures vivantes avec des sentiments. Pourtant, ils donnent à leurs robots des noms humains et les bordent en toute sécurité la nuit. Ils plaisantent sur cette impulsion, mais il y a une dissonance légèrement dérangeante dans les blagues. Les militaires interrogés par Carpenter semblent se sentir quelque peu coincés entre deux sentiments : ils comprennent l'absurdité de s'occuper d'un robot sans émotion conçu pour être sacrifiable, mais ils éprouvent néanmoins la tentation de s'en soucier, au moins un peu.

Une fois que Carpenter a publié ses premières interviews, elle a reçu davantage de communications d'hommes et de femmes de l'armée qui avaient développé de véritables liens avec leurs robots. Un ancien technicien en neutralisation des explosifs et munitions a écrit :

Comme je suis un technicien EOD depuis huit ans et trois déploiements, je peux vous dire que j'ai trouvé vos recherches extrêmement intéressantes. Je suis tout à fait d'accord avec les autres techniciens que vous avez interrogés pour dire que les robots sont des outils et qu'en tant que tels, je les enverrai dans n'importe quelle situation, quel que soit le danger possible.

Cependant, lors d'une mission en Irak en 2006, j'ai perdu un robot que j'avais nommé Stacy 4 (du nom de ma femme qui est également technicienne EOD). C'était un excellent robot qui ne m'a jamais posé de problèmes, fonctionnant toujours parfaitement. Stacy 4 a été complètement détruit et je n'ai pu récupérer que de très petits morceaux du châssis. Immédiatement après l'explosion qui a détruit Stacy 4, je me souviens encore du sentiment de colère, et beaucoup. Mon beau robot a été tué… c'est en fait la déclaration que j'ai faite à mon chef d'équipe. Une fois la mission terminée et que j'ai récupéré le plus possible du robot, j'ai pleuré à cause de sa perte. Je me sentais comme si j'avais perdu un membre cher de ma famille. J'ai appelé ma femme ce soir-là et je lui en ai parlé aussi. Je sais que cela semble stupide, mais je déteste toujours y penser. Je sais que les robots que nous utilisons ne sont que des machines et je prendrais à nouveau les mêmes décisions, même en connaissant le résultat.

J'apprécie la vie humaine. J'apprécie les relations que j'ai avec de vraies personnes. Mais je peux vous dire que Stacy 4 me manque vraiment, c'était un bon robot.

Si c'est le genre de témoignages qui peuvent être recueillis auprès de soldats interagissant avec des machines sans visage comme PackBots et Talons, qu'entendriez-vous de soldats déployés avec des robots comme Octavia, qui voient, entendent et touchent et peuvent anticiper les états d'esprit de ses coéquipiers humains ? ?

Dans les conversations populaires sur l'éthique de donner des sentiments aux robots, nous avons tendance à nous concentrer sur les effets d'une telle innovation technologique sur les robots eux-mêmes. Films et émissions de télévision de Coureur de lame à Westworld assister au traumatisme qui serait infligé aux robots de sensation par les humains qui les utilisent pour leur divertissement. Mais il y a aussi l'inverse à considérer : le traumatisme infligé aux humains qui se lient aux robots et les envoient ensuite à certaines morts.

Histoire connexe

Histoire connexe Une tendance émergente de l'intelligence artificielle consiste à faire en sorte que les ordinateurs détectent ce que nous ressentons et réagissent en conséquence. Ils pourraient même nous aider à développer plus de compassion les uns pour les autres.

Ce qui complique encore plus tout cela, c'est que si un robot comme Octavia finit par ressentir des émotions humaines, ces sentiments ne seront pas seulement le résultat de l'architecture cognitive qui lui a été donnée au départ. S'ils ressemblent à nos émotions, ils évolueront dans le contexte de ses relations avec ses coéquipiers, sa place dans le monde qu'elle habite.

Si sa vie de robot unique, par exemple, est passée à se faire envoyer dans des incendies par ses compagnons humains, ou à se promener seule sur des routes désertiques truffées d'engins explosifs, ses émotions seront différentes de celles vécues par un robot plus abrité, ou un plus abrité. Humain. Indépendamment des expressions émotionnelles reconnaissables qu'elle fait, si elle passe sa vie dans des situations inhumaines, ses émotions pourraient ne pas être reconnaissables humaines.

Louisa Hall, écrivain à New York, est l'auteur de Parlez , un roman de 2015 sur l'intelligence artificielle.

cacher