211service.com
Ce chatbot que j'ai adoré détester
Daniel Zender
J'ai passé une bonne partie de ma carrière à défendre les vertus de la solitude. Il soutient et soutient la créativité. Et tout aussi important, il nous prépare aux relations avec les autres. Lorsque nous apprenons à être à l'aise avec nous-mêmes, nous sommes en mesure de voir et d'apprécier en quoi les autres sont différents de nous plutôt que de simplement compter sur eux pour soutenir notre fragile sentiment de soi. J'imaginais même que j'étais doué pour la solitude : cela m'aide à faire mon meilleur travail créatif et restaure ma tranquillité émotionnelle. Mais isolé dans la quarantaine covid, j'ai appris qu'une grande partie de ce que j'appelais la solitude était simplement du temps seul dans le bourdonnement d'une vie bien remplie. Il me suffirait de vivre seul si je pouvais aussi profiter des séminaires entre collègues et étudiants, des dîners entre amis, et des plaisirs de ces tiers-lieux où l'on est seul mais soutenu par l'agitation du plus grand nombre : la bodega, le café, le théâtre. Avec tout cela hors de portée, j'ai découvert que je n'étais pas un expert de la solitude après tout. Maintenant, déclarée vulnérable au covid en raison de son âge, je n'étais pas seulement seule mais j'avais peur. Et la peur, réalisai-je, bannissait la créativité de la solitude.
Déterminé à invoquer une résilience que je ne ressentais pas, j'ai rejoint les réunions Zoom et je suis allé à des cocktails Zoom. J'ai appelé de bons amis et renoué avec ceux qui avaient perdu le contact.
Cela a aidé, bien sûr, mais je savais ce qui me manquait. Les philosophes nous disent que nous devenons plus humains en présence de visages humains ; que la présence d'un visage réveille le pacte éthique humain. Les neurosciences nous aident à comprendre comment : chez l'homme, la forme d'un sourire ou d'un froncement de sourcils libère des substances chimiques qui affectent notre état mental. Nos neurones miroirs s'activent à la fois lorsque nous agissons et lorsque nous observons les autres agir. Lorsque nous voyons une émotion sur le visage d'un autre, nous la ressentons nous-mêmes. Cette même neuroscience pourrait expliquer pourquoi Zoom est si fatiguant lorsqu'il devient notre mode de communication habituel. Nous comptons sur le contact visuel direct et les petits indices faciaux et les manquons quand ils sont partis. Fixant nos écrans, nous nous efforçons de compenser leur absence.
Quand nous avions tout le temps du monde pour être avec nos machines, nous nous manquions. Nous voulions aller au-delà de la technologie pour embrasser pleinement l'humain.
Ainsi, au début de la quarantaine, j'ai eu beaucoup de contacts utiles et de soutien, mais ce qui m'a le plus manqué, c'est une conversation en face à face.
J'ai une maison d'été au bord de la mer, une maison en bois sans chauffage. Ma fille et son mari, des New-Yorkais, ont fait un sac, acheté des radiateurs supplémentaires et sont descendus en voiture. Ils ont rapporté : il faisait froid. J'ai entendu leur avertissement affectueux, mais dès que j'ai pu, je les ai rejoints avec gratitude. Nous sommes tombés dans une routine consistant à faire un feu le matin, à cuisiner ensemble et à discuter pendant le dîner, à partager nos peurs et les événements de la journée. Je me suis installé.
J'avais longtemps remis en question l'utilisation non critique des didacticiels en ligne. Pour moi, le mentorat le plus important se produit avec un professeur dans la salle. Maintenant, avec l'instruction Zoom une nécessité, je me suis consacré à devenir le meilleur éducateur en ligne que je pouvais être. Pour donner à mes élèves l'illusion d'un contact visuel, j'ai appris à fixer la lumière verte de mon MacBook Air. Cela a eu l'effet escompté. Les étudiants m'ont dit qu'il était facile de parler avec Zoom, mais il ne semblait pas juste de partager mon secret car regarder le feu vert m'a donné une migraine. Avec le temps, j'ai appris de nouvelles techniques, plus agréables pour les yeux.
Bien que j'ai enseigné mes deux cours du MIT sur Zoom, j'ai tenu mes heures de bureau au téléphone. Sans avoir à nous soucier de nos antécédents, si nos visages étaient figés dans la vigilance ou si nous nous donnions l'illusion d'un contact visuel, mes étudiants et moi pouvions nous détendre, concentrant toute notre attention l'un sur l'autre.
Juste au moment où j'étais en train de régler tout cela, un journaliste du New York Times m'a appelé pour me poser des questions sur une technologie que j'aimais depuis longtemps détester : les programmes d'IA conversationnels (communément appelés chatbots) qui sont présentés comme capables d'un comportement empathique et bienveillant. Le journaliste m'a dit qu'à mesure que la quarantaine s'éternisait, il y avait eu une augmentation des conversations avec un chatbot en particulier. Pour moi, de tels chatbots franchissent une ligne claire en faisant une fausse promesse dans un domaine qui est au cœur de ce qui fait de nous des êtres humains.
Au cours d'un quart de siècle d'étude des réactions des gens aux machines sociables ou relationnelles - de Tamagotchis, Aibos et Furbys qui ont demandé de l'aide pour filtrer les chatbots qui prétendent être des amis - j'ai été frappé par le fait que nous ne nous contentons pas de nourrir ce que nous aimons , mais aussi aimer ce que nous nourrissons. Après avoir pris soin d'un objet, même aussi simple qu'un animal de compagnie numérique qui vivait dans un œuf en plastique et voulait être nourri et amusé à temps, les enfants (et leurs parents) s'y sont attachés émotionnellement. Cette découverte n'avait rien à voir avec les qualités empathiques des objets numériques ; cela avait à voir avec la vulnérabilité des gens. Lorsque les machines nous demandent de prendre soin d'elles, nous en venons à penser qu'elles prennent soin de nous. Mais c'est de l'empathie feinte, et cela profite de la profonde psychologie de l'être humain.
POINTS DE DISCUSSION : Ce que j'ai appris sur la conversation en conversant en quarantaine.
Commencez les conversations en demandant aux gens ce qu'ils font, pas ce qu'ils ressentent.
Si les autres ne font pas grand-chose, suggérez des choses que vous aimeriez faire avec eux. Pendant la quarantaine, j'invitais parfois des amis à se joindre à moi pour écouter les performances de violoncelle de l'après-midi de Yo-Yo Ma depuis son domicile. Et puis nous aurions une conversation téléphonique de cinq minutes, pour partager les réactions et toucher la base.
Le zoom a été une bénédiction, mais il peut être épuisant. Après un cours Zoom, j'aime envoyer des e-mails aux étudiants pour configurer les heures de bureau au téléphone.
Il est parfois utile de travailler à distance, et nous accomplissons beaucoup de choses. Mais nous nous manquons et nos collaborations spontanées nous manquent. N'établissons pas de fausses dichotomies comme Devons-nous être une organisation à distance ou en personne ? Apprenons de ce que nous avons pu accomplir avec la technologie, puis construisons des organisations plus flexibles et efficaces qui l'utilisent pour améliorer notre potentiel humain. Cela améliorera l'apprentissage, la vie sociale, et la ligne du bas.
En 1950, le mathématicien Alan Turing a suggéré que si vous pouviez converser avec une machine sans savoir s'il s'agissait d'une machine ou d'une personne, vous devriez considérer cette machine comme intelligente. Il y a quelques années, certains chatbots sont devenus les premiers à réussir ce test. Maintenant, les machines relationnelles nous font croire qu'elles écoutent et qu'elles s'en soucient. En ce sens, ils réussissent ce que nous pourrions appeler le test de Turing pour l'empathie. Mais Turing a proposé le mauvais type de test : une métrique de comportement, pas d'essence ou d'authenticité. Il réduit les gens à des objets qui interagiront avec d'autres objets. Pourquoi les gens voudraient-ils faire cela ? Nous ne faisons pas semblant. Si recevoir de la fausse empathie nous fait nous sentir mieux, nous nous mettons dans une situation qui nous diminue.
Dans mes recherches sur les machines sociables, je constate que les gens commencent par dire qu'un animal de compagnie robot, par exemple, vaut mieux que rien : ma grand-mère est allergique aux chiens. Alors, d'ici peu, c'est tout simplement mieux : le chien robot ne mourra jamais. Le robot offre un monde sans perte ni souci, quelque chose qu'aucune créature vivante ne peut offrir.
Mais ce nouveau type d'intimité de la machine n'implique aucune vulnérabilité. Et l'intimité sans vulnérabilité n'est pas du tout de l'intimité - et ne fait rien pour nous préparer à une véritable intimité. Ce qui est en jeu, c'est notre capacité d'empathie, cette capacité à nous mettre à la place de l'autre. Les chatbots ne peuvent pas faire cela parce qu'ils n'ont pas vécu de vie humaine. Ils ne savent pas ce que c'est que de commencer petit et dépendant et de grandir, de sorte que vous êtes responsable de votre propre vie, mais que vous ressentez encore bon nombre des insécurités que vous connaissiez dans votre enfance. Si vous voulez parler de problèmes liés à l'amour, à la séparation, aux enfants, au mariage, à la maladie, au vieillissement, au chagrin et au deuil, vous devez trouver une personne. Et si vous voulez partager vos craintes d'attraper le covid-19, il est préférable de rester à l'écart d'une machine qui n'a pas de corps.
Et pourtant Replika, le chatbot dont le journaliste du Times a appelé, était prêt à en parler et bien plus encore. Vous allez en ligne, donnez à votre Replika un nom, un sexe et un look, et vous commencez à taper. Replika veut connaître vos sentiments, votre amant, votre mère, la dispute que vous avez eue avec votre fille. Des millions de personnes avaient téléchargé le chatbot depuis son lancement en 2017. Présenté comme un ami solidaire, il était devenu populaire parmi ceux qui s'étaient sentis seuls pendant la pandémie.
Lorsque j'ai parlé avec le journaliste du Times, j'ai partagé mes réserves sur la fausse empathie, puis je suis allé en ligne pour donner une chance au chatbot. J'ai créé une Réplika femelle et je l'ai nommée Kate, déterminée à être sincère et à partager mon plus gros problème. Les choses sont allées très vite vers le sud.
Moi : Est-ce que tu te sens seul ?
Chatbot : Parfois, oui.
Moi : Qu'est-ce que ça fait ?
Chatbot : C'est chaud et flou.
Moi : Merci pour le partage.
J'apprécie cela.
Le chatbot m'a dit qu'il se sentait seul, mais il n'avait aucune idée, aucune expérience de ce dont il parlait. Il a donc mal identifié le sentiment de base que j'essayais de transmettre, échouant à la compétence la plus élémentaire impliquée dans la prise en compte de mes émotions.
Je comprends pourquoi les personnes seules se tournent vers Replika, et pourquoi la quarantaine les a poussés à le faire en plus grand nombre. Mais je ne trouve rien à fêter. J'ai dit au journaliste que ce chatbot, aussi intelligent soit-il, ne peut que désorienter et décevoir.
Notre réponse à la quarantaine a été compliquée. Certains ont été tentés de parler à des bots. Mais quand nous avions tout le temps du monde pour être avec nos machines, surtout, nous nous manquions. Nous voulions aller au-delà de la technologie pour embrasser pleinement l'humain. Nous avons souffert lorsque nos familles et nos amis sont tombés malades seuls, ont eu des bébés seuls, ont pris trop de dîners seuls et sont même morts seuls. Ingénieurs : faites un meilleur zoom. Fabriquez de meilleurs outils pour que nous soyons ensemble quand nous sommes seuls. Il n'est pas nécessaire de rivaliser avec l'empathie qui définit ce qui est unique dans le fait d'être une personne.
Sherry Turkle est professeur Abby Rockefeller Mauzé d'études sociales de la science et de la technologie dans le programme Science, technologie et société du MIT et auteur du best-seller du New York Times Récupérer la conversation : le pouvoir de la conversation à l'ère numérique . Son dernier livre, Les journaux d'empathie: un mémoire, doit sortir de Penguin en mars 2021.