Un copain IA qui est meilleur qu'elle

Dans le film Sa, qui a été nominé pour l'Oscar du meilleur film cette année, un écrivain d'âge moyen nommé Theodore Twombly installe et tombe rapidement amoureux d'un système d'exploitation artificiellement intelligent qui se baptise Samantha.

Samantha se situe bien au-delà de la fausse intelligence artificielle de Google Now ou de Siri : elle est aussi pleinement et sans ambiguïté consciente que n'importe quel humain. Le réalisateur et scénariste du film, Spike Jonze, utilise cette prémisse à des fins limitées et prosaïques, de sorte que le film boite dans une vallée étrange, ni crédible comme réalité proche ni suffisamment audacieuse philosophiquement pour mériter la suspension de l'incrédulité. Néanmoins, Sa soulève des questions sur la façon dont les humains pourraient se rapporter aux ordinateurs. Twombly souffre d'une séparation douloureuse d'avec sa femme ; Samantha peut-elle le faire se sentir mieux ?

Cette histoire faisait partie de notre numéro de mars 2014

• Voir le reste du numéro
• S'abonner

La conscience de soi de Samantha ne fait pas écho aux tendances du monde réel pour les assistants automatisés, qui vont dans une direction très différente. Rendre les assistants personnels bavards, sans parler de flirt, serait un énorme gaspillage de ressources, et la plupart des gens les trouveraient aussi irritants que le tristement célèbre Microsoft Clippy .

Mais il ne s'ensuit pas nécessairement que ces qualités seraient indésirables dans un contexte différent. Quand les personnes atteintes de démence dans les maisons de retraite sont invités à créer des liens avec des bébés phoques robotisés , et une liste croissante de troubles psychiatriques sont abordés avec des dialogues automatisés et des séances de thérapie , cela ne peut être qu'une question de temps avant que quelqu'un essaie de créer une application qui aide les gens à surmonter la solitude ordinaire. Supposons que nous atteignions le point où il est possible de se sentir véritablement engagé par la répartie avec un logiciel. Qu'est-ce que cela signifierait pour les participants humains?

Choses examinées

• Elle (2013)

Peut-être que cette perspective semble absurde ou répugnante. Mais certaines personnes se réconfortent déjà en s'immergeant dans la vie de personnages de fiction. Et même si je grimace quand j'entends quelqu'un dire que ma meilleure amie d'enfance était Elizabeth Bennet, personne ne considérerait cela comme une preuve d'illusion psychotique. Au cours des deux derniers siècles, les perceptions dominantes de la lecture de romans ont traversé un spectre complet : autrefois considérée comme une menace pour la moralité publique, elle est devenue un signe d'empathie et de sophistication émotionnelle. Il est rare maintenant d'entendre des affirmations selon lesquelles la fiction prive ses lecteurs de temps, d'énergie et de ressources émotionnelles qu'ils devraient consacrer aux relations humaines réelles.

Bien sûr, les personnages des romans de Jane Austen ne peuvent pas plaisanter avec le lecteur - et c'est une autre question de savoir si ce serait une parodie s'ils le pouvaient - mais ce que j'envisage, ce ne sont pas des personnages de fiction qui prennent vie, ni même des personnages dans un monde de jeu. qui peut mener un dialogue plus réaliste avec des acteurs humains. Un interlocuteur logiciel – un SI – nécessiterait une sorte d'histoire inventée et une vie continue, mais ces éléments n'ont pas besoin d'avoir été choisis dans le cadre d'un grand arc dramatique. Aussi captivant qu'il soit de regarder un baron de la drogue égoïste dans une spirale de la mort, ou Raskolnikov entraîné à contrecœur vers l'idée de rédemption de son créateur, l'IS idéal ressemblerait davantage à un correspondant, vivant une vie ordinaire épargnée par les grands projets d'auteurs mais prêt à discuter n'importe quoi, du banal au métaphysique.

Il y a des pièges évidents à éviter. Ce serait désastreux si l'utilisateur tombait vraiment dans l'illusion de la personnalité, mais alors, la plupart d'entre nous parviennent à garder la distinction claire dans d'autres formes de fiction. Une SI qui pourrait être utilisée pour répéter des fantasmes pathologiques de relations abusives serait une chose empoisonnée, mais à l'inverse, une SI qui résiste aux tentatives de manipulation ou de refoulement pourrait même faire du bien.

L'art de la conversation, de l'écoute attentive et de la pesée de chaque réponse, n'est pas un don universel, pas plus que toute autre compétence. S'il devient possible d'affiner ses compétences conversationnelles avec un ordinateur - découvrir vos forces et vos faiblesses tout en profitant d'une conversation avec un personnage qui n'est pas moins intéressant pour ne pas exister - cela pourrait bien conduire à de meilleures conversations avec d'autres humains.

Mais c'est peut-être une vision trop optimiste de la position du marché ; la connaissance de soi n'est peut-être pas le meilleur argument de vente. Le côté obscur qui Sa n'envisage jamais vraiment, malgré une brève feinte décousue dans sa direction, est qu'un jour nous pourrions donner notre cœur à une voix charmante dans un écouteur, seulement pour être abattus par la vérité que nous avons émue dans le vide.

Greg Egan , un programmeur informatique qui vit en Australie, a écrit plusieurs livres de science-fiction primés. Sa nouvelle Zero for Conduct apparaît dans Examen de la technologie du MIT » s deuxième anthologie de SF, Douze Demains .

cacher