Google démos Duplex, son IA qui ressemble exactement à un humain très étrange et gentil

Magicon / Edwin Paryogi M / Demeek Daksina | Le projet de nom

Salut, j'appelle pour faire une réservation, dit la voix féminine polie à l'autre bout du fil. Et c'est ainsi que j'ai découvert le dernier chef-d'œuvre de l'IA de Google, l'injection de remplissage de conversation. Candidat au test de Turing connu sous le nom de Duplex.

Lorsque Google le proposera à certains utilisateurs pour des tests dans les semaines à venir, Duplex sera un outil de l'application Google Assistant que les testeurs pourront utiliser pour appeler les magasins en leur nom et connaître leurs heures de vacances. Plus tard cet été, il pourra également appeler des restaurants et des salons pour organiser des réservations et des rendez-vous chez le coiffeur.

Il a été dévoilé en mai lors de la conférence annuelle des développeurs de la société en grande pompe et, dans les jours qui ont suivi, avec beaucoup de bruit. Après sa démo impressionnante, les gens ont exprimé des inquiétudes quant à la façon dont cela sonnait humain ( Achevée avec um et ah sons) et comment, dans son exemple sur scène, il ne s'est pas identifié comme un agent d'intelligence artificielle.

Depuis, Google a tenté d'apaiser les craintes. Alors que les critiques éthiques se multipliaient dans les jours qui suivirent la manif, l'entreprise vite dit que Duplex s'annoncera comme un agent IA à l'humain qu'il appelle et déclarera que l'appel sera enregistré.

Et mardi, Google a invité un groupe de journalistes à Oren’s Hummus Shop, normalement animé, au centre-ville de Mountain View, en Californie, pour montrer les progrès de Duplex. Alors que les clients potentiels se voyaient refuser du houmous à l'extérieur, les membres de l'équipe de Google Assistant ont montré aux journalistes comment le système fonctionnerait et nous ont laissé l'essayer par nous-mêmes à l'intérieur du restaurant.

Un grand changement par rapport à la démonstration Duplex du mois dernier est que les appels que j'ai entendus (et celui auquel j'ai répondu) provenaient clairement d'un agent d'IA. Dans l'appel que j'ai décroché alors que je me faisais passer pour une hôtesse de restaurant, une voix à consonance féminine m'a rapidement dit que c'était un service automatisé qui enregistrait l'appel ( cette vidéo de Google donne une idée de l'apparence et du son ; J'ai pu enregistrer de l'audio à des fins de prise de notes, mais Google m'a demandé de ne pas le partager comme condition pour assister à la démonstration).

Nick Fox, vice-président des produits et de la conception de Google Assistant, a déclaré que Google savait en mai qu'il devait divulguer que les appels provenaient de l'IA et que ce besoin avait été validé après le dévoilement lors de la conférence des développeurs.

Je ne dirais pas que nous avons nécessairement changé quoi que ce soit en fonction des commentaires, a-t-il déclaré. Il a déclaré que la société avait donné la démo originale sans cette notification, car à l'époque, elle essayait d'afficher la technologie plutôt qu'un produit complet.

Pendant mon appel, j'ai essayé de donner du fil à retordre à la voix à l'autre bout du fil - prétendant que je ne pouvais pas entendre des détails comme la date à laquelle l'IA voulait une table - juste pour voir ce qui se passerait. Serait-ce une boucle dans un opérateur humain ? (Google dit que cela se produit toujours dans un appel de test Duplex sur cinq, bien que cela ne dise pas grand-chose d'autre sur ces assistants.) Est-ce que cela raccrocherait simplement si je le confondais trop ? (Cela ne m'est pas arrivé, mais c'est arrivé à un autre journaliste, qui a dit à l'IA que la cuisine du restaurant fictif serait fermée après un certain temps et que seul le menu du bar serait disponible.)

Dans l'ensemble, Duplex a fait ce qu'il était censé faire. Il s'est répété quand je l'ai demandé. Il n'a pas été déconcerté quand je lui ai demandé de tenir, et il n'a pas trébuché quand j'ai trébuché sur mes propres mots. Quand j'ai dit que je ne pouvais pas prendre de réservation pour cinq personnes le dimanche avant 20 heures, plutôt que l'heure demandée de 6, il était toujours prêt à faire la réservation.

J'ai été impressionné par l'humanité de sa voix; cela ressemblait à une personne (bien que lors d'un exemple d'appel, j'ai entendu que cela sonnait distinctement informatisé lorsque je prononçais un numéro de téléphone).

Scott Huffman, vice-président de l'ingénierie pour Google Assistant, a joué à notre groupe assemblé un enregistrement d'une première version de Duplex - une voix masculine guindée à l'accent britannique qui était incontestablement informatisée - et a déclaré que ce type de voix non humaine ne ça ne marche pas avec les entreprises. Beaucoup de gens raccrochaient le téléphone et les réservations n'étaient pas terminées, a-t-il déclaré.

Les gens ne géraient pas bien à quel point cela sonnait contre nature, a-t-il déclaré. Apparemment, les choses se sont beaucoup améliorées car l'IA a été conçue pour ressembler davantage à une personne.

Alors que les sons um et ah provenant d'une IA auditive pourraient vous effrayer, Huffman a déclaré que ces tics verbaux programmés sont destinés à faire avancer les conversations en douceur. Par exemple, il peut sembler plus poli de corriger un humain en disant Euh, pour cinq personnes que Non, pour cinq personnes lors d'une réservation pour le dîner.

Pourtant, alors que Duplex inclut désormais les caractéristiques vocales des humains, il a eu du mal à comprendre certaines questions qui ne nous déconcerteraient ni vous ni moi. Quand j'ai demandé s'il y aurait des enfants dans le groupe et si une chaise haute serait nécessaire, la voix féminine a dit qu'elle faisait la réservation au nom d'un client et ne savait pas (un autre journaliste a posé une question similaire et a obtenu le même type de réponse).

Et quand j'ai demandé s'il y aurait des besoins d'accessibilité - comme si quelqu'un dans le groupe utilisait un fauteuil roulant - il n'a pas pu me donner de réponse non plus.

Je ne sais pas vraiment, désolé, dit la voix.

Lorsque Duplex est déployé, il y aura toujours des limitations et aucune chance d'avoir une vraie conversation. Si vous essayez de demander quelque chose qui porte sur un sujet autre que les heures d'ouverture des magasins de vacances, les réservations de restaurant ou les rendez-vous chez le coiffeur, a déclaré Huffman, Duplex essaiera de ramener la conversation à la tâche à accomplir. C'est comme un humain très bizarre qui ne peut faire que ces trois choses, a-t-il dit

Bien que la démo ait été principalement positive, il reste encore plusieurs obstacles à surmonter avant que votre taqueria locale ne soit inondée de demandes de réservation AI. Il s'agit notamment de préoccupations pratiques, telles que les lois sur la confidentialité et les répondeurs téléphoniques qui préfèrent l'interaction humaine (les entreprises qui ne veulent tout simplement pas accepter les appels de l'IA de Google pourront se retirer). Et Google ne peut pas simplement déployer Duplex où il veut. L'entreprise aura besoin d'un permis avant de pouvoir opérer au Texas, par exemple.

On ne sait pas non plus dans quelle mesure Duplex a compris notre conversation. Alors que j'ai pu obtenir l'IA à l'autre bout de la ligne pour confirmer de manière audible l'heure et la date de la réservation dans notre chat, Google n'a pas démontré ce que Duplex avait compris de nos conversations après avoir raccroché. Je ne sais pas avec certitude que son client humain a obtenu le 20 heures. réservation pour cinq ajoutée à son calendrier, par exemple.

Et puis il y a les soucis de longévité. Google Duplex semble être une nouveauté maintenant, donc les gens peuvent rester en ligne quand il appelle, mais à quel moment sera-t-il traité et ignoré comme ces appels automatisés ?

Huffman, au moins, pense que ce n'est peut-être pas si grave pour les employés de restaurant occupés qui veulent simplement prendre une réservation. Il a déclaré que les destinataires des appels de test n'avaient pas beaucoup réagi en apprenant qu'un système d'intelligence artificielle appelait pour réserver une table.

Les gens veulent juste accomplir la tâche, a-t-il déclaré.

cacher