211service.com
Podcast : l'IA trouve sa voix
Les assistants vocaux d'aujourd'hui sont encore loin des machines à penser hyper intelligentes auxquelles nous réfléchissons depuis des décennies. Et c'est parce que cette technologie est en fait la combinaison de trois compétences différentes : la reconnaissance vocale, le traitement du langage naturel et la génération de la voix.
Chacune de ces compétences présente déjà d'énormes défis. Afin de maîtriser uniquement la partie traitement du langage naturel ? Vous devez pratiquement recréer une intelligence au niveau humain. L'apprentissage en profondeur, la technologie à l'origine du boom actuel de l'IA , peut former des machines pour qu'elles deviennent des maîtres dans toutes sortes de tâches. Mais il ne peut en apprendre qu'un à la fois. Et parce que la plupart des modèles d'IA forment leurs compétences sur des milliers ou des millions d'exemples existants, ils finissent par reproduire des modèles dans les données historiques, y compris les nombreuses mauvaises décisions que les gens ont prises, comme la marginalisation des personnes de couleur et des femmes.
Pourtant, des systèmes comme le champion du jeu de société AlphaZero et le générateur de faux texte de plus en plus convaincant GPT-3 ont attisé les flammes du débat sur le moment où les humains créeront un intelligence artificielle générale — des machines capables d'effectuer plusieurs tâches à la fois, de penser et de raisonner par elles-mêmes. Dans cet épisode, nous explorons comment les machines apprennent à communiquer et ce que cela signifie pour les humains à l'autre bout de la conversation.
Nous rencontrons:
- Susan C. Bennett, voix de Siri
- Cade Metz, The New York Times
- Charlotte Jee, Examen de la technologie du MIT
Crédits
Cet épisode a été produit par Jennifer Strong, Emma Cillekens, Anthony Green, Karen Hao et Charlotte Jee. Nous sommes édités par Michael Reilly et Niall Firth.
Transcription
[ID TR]
Jim : Je ne sais pas si c'était AI... S'ils avaient pris l'enregistrement de quelque chose qu'il avait fait... et étaient capables de le manipuler... mais je vous le dis, c'était mon fils.
Fort: La journée a commencé comme une autre pour un homme... on va appeler Jim. Il vit en dehors de Boston.
Et au fait... il a un membre de sa famille qui travaille pour le MIT.
Nous n'allons pas utiliser son nom de famille car ils craignent pour leur sécurité.
Jim : C'était un mardi ou un mercredi matin, neuf heures, je suis plongé dans mes pensées en train de travailler sur quelque chose,
Fort: C'est... jusqu'à ce qu'il reçoive cet appel.
Jim : Le téléphone sonne… et je décroche et c'est mon fils. Et il est clairement agité. Ce, ce gamin est un gars vraiment cool mais quand il s'énerve, il a un certain nombre de manières vocales. Et c'était comme, Oh mon Dieu, il a des ennuis.
Et il m'a essentiellement dit, écoute, je suis en prison, je suis au Mexique. Ils ont pris mon téléphone. Je n'ai que 30 secondes. Hum, ils ont dit que je buvais, mais ce n'était pas le cas et les gens sont blessés. Et écoute, je dois raccrocher, appeler cet avocat et il me donne un numéro de téléphone et doit raccrocher.
Fort: Son fils est au Mexique… et il n'y a aucun doute dans son esprit… c'est lui.
Jim : Et je dois te dire, Jennifer, c'était lui. C'était sa voix. C'était tout. Ton. Juste ces petites manières, les, les pauses, les bouffées d'air, tout ce que vous pouvez imaginer.
Fort: Son coeur est dans sa gorge...
Jim : Mes cheveux dressés sur le bord
Fort: Alors, il appelle ce numéro de téléphone… Un homme décroche… et il offre plus de détails sur ce qui se passe.
Jim : Votre fils est accusé d'avoir heurté cette voiture. Il y avait une femme enceinte au volant dont le bras était cassé. Sa fille était sur le siège arrière... est dans un état critique et ils l'ont accusé de conduite sous influence. Nous ne pensons pas qu'il ait fait cela. C'est que nous avons, nous avons rencontré cela plusieurs fois auparavant, mais la chose la plus importante est de le faire sortir de prison, de le mettre en sécurité, aussi vite que possible.
Fort: Puis la conversation se tourne vers l'argent… on lui dit que la caution a été fixée… et qu'il doit déposer dix pour cent.
Jim : Alors dès qu'il a commencé à parler d'argent, vous savez, le drapeau s'est en quelque sorte levé et j'ai dit, excusez-moi, y a-t-il une chance que ce soit une sorte d'arnaque ? Et il s'est vraiment, euh, énervé. Il est comme, Hey, tu m'as appelé. Écoute, je trouve ça vraiment offensant que tu m'accuses de quelque chose. Et puis mon cœur remonte dans ma gorge. Je me dis, c'est le seul gars qui est entre mon fils et la prison encore pire. Alors j'ai fait marche arrière...
[Musique]
Ma femme entre 10 minutes plus tard et dit, eh bien, vous savez, je lui ai envoyé un texto tard hier soir. Comme c'est à peu près à l'époque où il aurait probablement été arrêté et emprisonné. Alors, bien sûr, nous lui envoyons un texto, il vient juste de se lever. Il va très bien.
Fort: Il ne sait toujours pas comment quelqu'un a capturé l'essence de la voix de son fils. Mais il a des théories...
Jim : Ils ont dû obtenir un enregistrement de quelque chose quand il était contrarié. C'est la seule chose que je peux dire, parce qu'ils n'ont pas pu se moquer de certaines de ces choses qu'il fait. Ils ne pouvaient pas deviner cela. Je ne pense pas, et donc ils, je pense qu'ils avaient certainement de la matière première avec laquelle travailler et ensuite ce qu'ils en ont fait à partir de là. Je ne sais pas.
Fort: Et il n'y a pas que Jim qui n'est pas sûr... Nous n'avons aucune idée si l'IA a quelque chose à voir avec ça.
Mais le fait est que… nous vivons maintenant dans un monde où nous ne pouvons pas non plus être sûrs que ce n'est pas le cas.
Il est incroyablement facile de simuler la voix de quelqu'un avec même quelques minutes d'enregistrement… et des adolescents comme le fils de Jim ? Ils partagent d'innombrables enregistrements via des publications et des messages sur les réseaux sociaux.
Jim : J'ai été assez impressionné de voir à quel point c'était bon. Euh, comme je l'ai dit, je ne suis pas facilement dupe et mec, ils avaient tout compris. Donc, euh, juste prudence.
Fort: Je suis Jennifer Strong et dans cet épisode, nous examinons ce qu'il faut pour faire une voix.
[MONTRER ID]
Zeyu Gin : Vous faites des trucs bizarres en ligne.
Fort: Zeyu Jin est chercheur chez Adobe… C'est lui qui s'exprimait lors d'une conférence d'entreprise il y a environ cinq ans… montrant comment un logiciel peut réorganiser les mots dans cet enregistrement.
Clé: J'ai sauté sur le lit et j'ai embrassé mes chiens et ma femme, dans cet ordre.
Zeu : Alors que diriez-vous de jouer avec qui il a réellement embrassé. // Présentation du projet VoCo. Project VoCo vous permet de modifier la parole dans le texte. Alors élevons-le. Donc je charge juste ce morceau audio dans VoCo. Donc, comme vous pouvez le voir, nous avons la forme d'onde audio et nous avons le texte en dessous. //
Alors que faisons-nous? Copier coller. Oh! Ouais c'est fait. Écoutons-le.
Clé: Et j'ai embrassé ma femme et mes chiens.
Zeu : Attendez il y a plus. Nous pouvons en fait taper quelque chose qui n'est pas ici.
Clé: Et j'ai embrassé Jordan et mes chiens.
Fort: Adobe n'a jamais publié ce prototype… mais la technologie sous-jacente ne cesse de s'améliorer.
Par exemple, voici un faux généré par ordinateur du podcasteur Joe Rogan de 2019... Il a été produit par le laboratoire d'intelligence artificielle de Square appelé Dessa pour sensibiliser à la technologie.
Rogan : 10-7 Amis, j'ai quelque chose de nouveau à vous dire à tous. J'ai décidé de parrainer une équipe de hockey entièrement composée de chimpanzés.
Fort: Bien que cela ressemble à du plaisir et à des jeux… les experts préviennent que ces voix artificielles pourraient rendre certains types d'escroqueries beaucoup plus courants. Des choses comme ce dont nous avons entendu parler plus tôt.
Mona Sedky : La criminalité axée sur la communication a toujours été plus faible sur le mât totémique.
Fort: C'est le procureur fédéral Mona Sedky qui a parlé l'année dernière à la Federal Trade Commission des technologies de clonage de la voix.
Mona Sedky : Mais maintenant, avec l'avènement de choses comme la fausse vidéo profonde… maintenant le faux audio profond, vous… vous pouvez essentiellement avoir des outils d'anonymisation et être n'importe où sur Internet où vous voulez être…. n'importe où dans le monde… et communiquer anonymement avec les gens. En conséquence, il y a eu une énorme augmentation de la criminalité axée sur la communication.
Balasubramaniyan : Mais imaginez si vous, en tant que directeur financier ou contrôleur en chef, recevez un appel téléphonique provenant du numéro de téléphone de votre PDG.
Fort: Et voici Vijay Balasubramaniyan, PDG de Pindrop Security, lors d'une conférence sur la sécurité l'année dernière.
Balasubramaniyan : C'est complètement usurpé… donc il utilise en fait votre carnet d'adresses, et il apparaît comme le nom de votre PDG… et puis à l'autre bout, vous entendez la voix de votre PDG avec une énorme urgence. Et on commence à voir des attaques folles comme ça. Il y avait un exemple couvert par de nombreux médias de presse, à savoir un virement de 220 000 $ qui s'est produit parce qu'un PDG d'une entreprise britannique pensait qu'il parlait à sa société mère… alors il a ensuite envoyé cet argent. Mais nous avons vu jusqu'à 17 millions de dollars sortir.
Fort: Et l'idée même de fausses voix... peut être tout aussi dommageable qu'une fausse voix elle-même... Comme lorsque l'ancien président Donald Trump a tenté de blâmer la technologie pour certaines choses offensantes qu'il a dites et qui ont été enregistrées sur bande.
Mais comme toute autre technologie… ce n'est pas intrinsèquement bon ou mauvais… c'est juste un outil… et je l'ai utilisé dans la bande-annonce de la première saison pour montrer ce que la technologie peut faire.
Fort: Si voir c'est croire...
Comment naviguons-nous dans un monde où nous ne pouvons pas faire confiance à nos yeux... ou à nos oreilles ?
Et donc vous savez... ce que vous écoutez... Il n'y a pas que moi qui parle. J'ai eu de l'aide d'une version artificielle de ma voix… remplissant des mots ici et là.
Rencontrez synthétique Jennifer.
Synthétique Jennifer : Salut, les amis !
Strong : Je peux même cliquer pour ajuster mon humeur…
Synthétique Jennifer : Bonjour.
Strong : Ouais, ne le mettons pas en colère.
Fort: Dans un avenir pas si lointain, cette technologie sera utilisée de nombreuses façons… pour de simples ajustements aux présentations préenregistrées… même… pour ramener les voix des personnages animés d'une série…
En d'autres termes, les voix artificielles sont là pour rester. Mais ils n'ont pas toujours été aussi faciles à réaliser... et j'ai fait appel à un expert dont la voix peut sembler familière...
Bennet : Comment cela sonne-t-il ? Um, peut-être que je pourrais être un peu plus amical. Comment ca va?
Bonjour, je suis Susan C. Bennet, la voix originale de Siri.
Eh bien, le jour où Siri est apparu, c'est-à-dire le 4 octobre 2011, un collègue comédien m'a envoyé un e-mail et m'a dit : 'Hé, nous jouons avec cette nouvelle application iPhone, n'est-ce pas vous ?' ? Je suis allé sur le site d'Apple et j'ai écouté... et oui. C'était ma voix. [rires]
Fort: Vous avez bien entendu. La voix féminine originale que des millions de personnes associent aux appareils Apple… ? Je n'avais aucune idée. Et elle n'était pas seule. Les voix humaines derrière les autres premiers assistants vocaux ont également été prises par surprise.
Bennet : Ouais, ça a été une chose intéressante. C'était un ajustement au début comme vous pouvez l'imaginer, car je ne m'y attendais pas. C'était un peu effrayant au début, je dois dire que je ne me suis jamais vraiment parlé en tant que Siri, mais petit à petit, j'ai commencé à l'accepter et en fait, ça a fini par devenir quelque chose de vraiment positif donc…
Fort: Pour être clair, Apple n'a pas volé la voix de Susan Bennett. Pendant des décennies, elle a fait du travail vocal pour des entreprises comme McDonald's et Delta Airlines… et des années avant la sortie de Siri… elle a fait une étrange série d'enregistrements qui ont alimenté son développement.
Bennet : En 2005, nous n'aurions pas pu imaginer quelque chose comme Siri ou Alexa. Et donc nous tous, j'ai parlé à d'autres personnes qui ont vécu la même expérience, qui ont été une voix virtuelle. Vous savez, nous pensions simplement que nous ne faisions que des messages vocaux téléphoniques génériques. Et donc quand soudainement Siri est apparu en 2011, c'est comme, je suis qui, quoi, qu'est-ce que c'est ? Donc, c'était une véritable surprise, mais j'aime à penser que nous étions juste à la pointe de cette nouvelle technologie. Donc, vous savez, j'ai choisi de considérer cela comme une chose très positive, même si nous, aucun d'entre nous, n'avons jamais été payés pour les millions et les millions de téléphones sur lesquels nos voix sont entendues. Alors ça, c'est un bémol.
Fort: Quelque chose d'autre qui est gênant... elle dit qu'Apple ne l'a jamais reconnue comme la voix américaine de Siri... malgré le fait qu'elle soit devenue une célébrité accidentelle... atteignant des millions.
Bennet : La seule reconnaissance réelle que j'ai jamais eue est via Siri. Si vous demandez à Siri 'Qui est Susan Bennett?' elle dira, je suis la voix originale de Siri. Merci beaucoup Siri. Appréciez-le.
Fort: Mais ce n'est pas la première fois qu'elle donne sa voix à une machine.
Bennet : À la fin des années 70, quand ils ont introduit les guichets automatiques, j'aime dire que c'était ma première expérience en tant que machine, et vous savez, il n'y avait pas d'ordinateurs personnels ou quoi que ce soit à l'époque et les gens ne faisaient pas confiance aux machines. Ils n'utiliseraient pas les guichets automatiques parce qu'ils ne faisaient pas confiance aux machines pour leur donner le bon argent. Ils, vous savez, s'ils mettaient de l'argent dans la machine, ils avaient peur de ne plus jamais le revoir. C'est ainsi qu'une agence de publicité très entreprenante à Atlanta à l'époque appelée McDonald and Little a décidé d'humaniser la machine. Alors ils ont écrit un jingle et je suis devenu la voix de Tilly la caissière de tous les temps, puis ils ont finalement mis un petit visage sur la machine.
Fort: La voix humaine aide les entreprises à instaurer la confiance avec les consommateurs...
Bennet : Il y a tellement d'émotions et de significations différentes que nous transmettons à travers le son de nos voix plutôt que simplement par écrit. C'est pourquoi je pense que les emojis sont apparus parce que vous ne pouvez pas saisir les nuances sans la voix. Et donc je pense que c'est pourquoi la voix est devenue une partie si importante de la technologie.
Fort: Et selon sa propre expérience, les interactions avec cette version synthétique de sa voix ont amené les gens à lui faire confiance et à se confier… à l'appeler une amie, même s'ils ne se sont jamais rencontrés. sa .
Bennet : Eh bien, je pense que la chose la plus étrange à propos d'être la voix de Siri, pour moi, c'est quand je me suis révélé pour la première fois, c'était stupéfiant pour moi de voir combien de personnes considéraient Siri comme leur ami ou une sorte d'entité à laquelle ils pouvaient vraiment s'identifier. Je pense qu'en fait, dans de nombreux cas, ils la considèrent comme humaine.
Fort: On estime que le marché mondial des technologies vocales atteindra près de 185 milliards de dollars cette année... et les voix générées par l'IA ? changent la donne.
Bennet : Vous savez, après des années et des années de travail sur ces voix, c'est vraiment, vraiment difficile d'obtenir le rythme réel de la voix humaine. Et je suis sûr qu'ils le feront probablement à un moment donné, mais vous remarquerez même à ce jour, vous savez, vous écouterez Siri ou Alexa ou l'un des autres et ils parleront et ça sonne bon jusqu'à ce que ce ne soit pas le cas. Comme, Oh, je vais au magasin. Vous savez, il y a une certaine bizarrerie dans le sens rythmique de celui-ci.
Fort: Mais même une fois que les voix humaines deviendront monnaie courante... elle n'est pas tout à fait sûre que ce sera une bonne chose.
Bennet : Mais vous savez, l'avantage pour eux est qu'ils n'ont pas vraiment besoin de s'entendre avec Siri. Ils peuvent simplement dire à Siri quoi faire s'ils n'aiment pas ce qu'elle dit, ils peuvent simplement l'éteindre. Ce n'est donc pas comme de vraies relations humaines. C'est peut-être ce que les gens aimeraient que soient les relations humaines. Tout le monde fait ce que je veux. (rires) Alors tout le monde est content. À droite?
Fort: Bien sûr, les assistants vocaux comme Siri et Alexa ne sont pas juste voix. Leurs capacités proviennent également de l'IA dans les coulisses.
Il a été exploré dans des films de science-fiction comme celui-ci, appelé Sa … à propos d'un homme qui tombe amoureux de son assistant vocal.
Théodore : Comment travailles-tu?
Samantha (IA): Eh bien... Fondamentalement, j'ai l'intuition. Je veux dire... L'ADN de qui je suis est basé sur les millions de personnalités de tous les programmeurs qui m'ont écrit, mais ce qui fait de moi je est ma capacité à grandir à travers mes expériences. Donc, fondamentalement, à chaque instant, j'évolue, tout comme vous.
Fort: Mais les assistants vocaux d'aujourd'hui sont bien loin des machines à penser hyper intelligentes auxquelles nous réfléchissons depuis des décennies.
Et c'est parce que cette technologie... est en fait beaucoup les technologies. C'est la combinaison de trois compétences différentes... la reconnaissance vocale, le traitement du langage naturel et la génération de la voix.
La reconnaissance vocale est ce qui permet à Siri de reconnaître les sons que vous émettez et de les transcrire en mots. Le traitement du langage naturel transforme ces mots en sens... et détermine ce qu'il faut dire en réponse. Et la génération de voix est la pièce finale... l'élément humain... qui donne à Siri la capacité de parler.
Chacune de ces compétences est déjà un énorme défi... Pour maîtriser uniquement la partie traitement du langage naturel ? Vous devez pratiquement recréer une intelligence au niveau humain.
Et nous sommes loin de cela. Mais nous avons constaté des progrès remarquables avec l'essor de l'apprentissage en profondeur… aidant Siri et Alexa à être un peu plus utiles.
Metz: Ce que les gens ne savent peut-être pas à propos de Siri, c'est que la technologie d'origine était quelque chose de différent.
Fort: Cade Metz est journaliste technique pour le New York Times. Son nouveau livre s'intitule Genius Makers : les non-conformistes qui ont introduit l'IA sur Google, Facebook et le monde .
Metz: La façon dont Siri a été construit à l'origine... Vous deviez avoir une équipe d'ingénieurs, dans une pièce, devant leurs ordinateurs et pièce par pièce, ils devaient définir avec un code informatique comment il reconnaîtrait votre voix.
Fort: À l'époque... les ingénieurs passaient des jours à écrire des règles détaillées destinées à montrer aux machines comment reconnaître les mots et ce qu'ils veulent dire.
Et cela a été fait au maximum de base niveau… travaillant souvent avec juste des extraits de voix à la fois.
Imaginez simplement toutes les différentes façons dont les gens peuvent dire le mot bonjour… ou toutes les façons dont nous assemblons des phrases… expliquant pourquoi le temps passe vite ou comment certains verbes peuvent aussi être des noms.
Metz: Vous ne pouvez jamais rassembler tout ce dont vous avez besoin, quel que soit le nombre d'ingénieurs que vous avez, quelle que soit la richesse de votre entreprise. Définir chaque petite chose qui pourrait arriver quand quelqu'un parle dans son iPhone… Vous n'avez tout simplement pas assez de pouvoir personnel pour construire tout ce dont vous avez besoin pour construire. C'est juste trop compliqué.
Fort: Les réseaux de neurones ont rendu ce processus beaucoup plus facile… Ils apprennent simplement en reconnaissant des modèles dans les données introduites dans le système.
Metz: Vous prenez cette parole humaine… Vous la donnez au réseau neuronal… Et le réseau neuronal apprend les modèles qui définissent la parole humaine. De cette façon, il peut le recréer sans que les ingénieurs aient à en définir chaque petit élément. Le réseau de neurones apprend littéralement la tâche par lui-même. Et c'est le changement clé... c'est qu'un réseau de neurones peut apprendre à reconnaître à quoi ressemble un chat, par opposition aux gens qui doivent définir pour la machine à quoi ressemble un chat.
Fort: Mais même avant les réseaux de neurones… Les entreprises technologiques comme Microsoft visaient à créer des systèmes capables de comprendre la façon dont les gens écrivent et parlent au quotidien.
Et en 1996, Microsoft a embauché un linguiste... Chris Brocket... pour commencer à travailler sur ce qu'ils ont appelé l'IA en langage naturel.
Metz: Le gars n'est pas un informaticien, mais son travail consistait à définir la façon dont le langage est assemblé, d'accord. Pour un ordinateur. Et c'est juste une tâche incroyablement difficile, n'est-ce pas ? Pourquoi, en tant qu'anglophones, ordonnons-nous nos mots, comme nous le faisons, n'est-ce pas ? Et lui, il a passé des années, littéralement des années, cinq ou six ans chez Microsoft, vous savez, lentement, vous savez, à essayer de dire à l'ordinateur comment l'anglais est, est assemblé. Alors l'ordinateur peut le faire.
Fort: Puis, un après-midi en 2003... un petit groupe chez Microsoft... au bout du couloir de Brockett... a commencé à travailler sur un nouveau projet. Ils construisaient un système qui traduisait les langues en utilisant une technique basée sur les statistiques.
L'idée étant que si un ensemble de mots dans une langue apparaissait avec la même fréquence et le même contexte dans une autre, c'était la traduction probable.
Metz: Ils ont assemblé un prototype en quelques semaines et l'ont montré à un groupe du centre de recherche Microsoft, dont Chris Brocket.
Fort: Le système est... assez bricolé. C'est seulement travaux lorsqu'il s'appliquait à des morceaux de phrase… Et même alors… les traductions étaient confuses.
Metz: Alors qu'il les voit le démontrer, il a une crise de panique au point qu'il pense littéralement qu'il a une crise cardiaque parce qu'il se rend compte que sa carrière pourrait être terminée. Que tout ce sur quoi il a passé les six dernières années // est inutile et a été rendu inutile par le système que ces gars ont construit en quelques semaines.
Fort: À cette époque, nous n'avions pas la quantité de données nécessaires pour former un réseau de neurones, ni la puissance de traitement… mais l'idée d'un réseau existe depuis les années 1980.
Et l'une de ces idées est venue sous la forme de NetTalk... qui a été développé par le pionnier de l'IA, Terry Sejnowski.
Le système pourrait apprendre à prononcer des mots par lui-même en étudiant des livres pour enfants.
Metz: Terry avait cette démo incroyable qu'il montrait aux gens lors de conférences. C'était en quelque sorte accéléré parce qu'il a fallu un certain temps au réseau de neurones pour apprendre, mais il a pu montrer que lorsqu'il a commencé à analyser les modèles de ces livres pour enfants, ils pouvaient commencer à babiller…
[Sons de la démo NetTalk]
Metz: et puis il pouvait babiller un peu mieux, et puis il pouvait commencer à assembler des mots, et puis soudain il pouvait prononcer ces mots.
[Sons de la démo NetTalk]
Metz: Il pourrait montrer à son public // avec cette démo, comment un réseau de neurones pourrait apprendre.
Fort: Il faudrait encore deux décennies avant que la puissance de calcul n'existe pour rendre cela vraiment utile.
Metz: Donc le langage naturel était un domaine où même après le succès des réseaux de neurones avec la parole et l'image, les gens pensaient, eh bien, ça ne marchera pas avec le langage naturel. Eh bien, c'est le cas. Cela ne veut pas dire que c'est parfait.
Fort: L'apprentissage en profondeur (la technologie à l'origine du boom actuel de l'IA) peut entraîner les machines à devenir des maîtres dans toutes sortes de tâches. Mais il ne peut apprendre qu'une chose à la fois. Et parce que la plupart des modèles d'IA forment leurs compétences sur des milliers ou des millions d'exemples, ils finissent par répéter des schémas trouvés dans d'anciennes données, y compris les nombreuses mauvaises décisions que les gens ont prises, comme la marginalisation des personnes de couleur et des femmes.
Et toute grande avancée attise ce débat sur le moment où les humains créeront une intelligence générale artificielle - ou des machines capables d'effectuer plusieurs tâches à la fois, de penser et de raisonner par elles-mêmes. Récemment, cela a été des avancées comme le champion du jeu de société AlphaZero... et le générateur de faux textes de plus en plus convaincant GPT-3...
Metz: Il peut, il peut générer des articles de blog. Il peut générer des tweets, des emails. Il peut générer des programmes informatiques. Vous savez, cela fonctionne peut-être la moitié du temps, mais quand cela fonctionne, vous ne pouvez pas faire la différence entre son anglais et votre anglais. D'accord. C'est le progrès. Ce n'est pas le cerveau, ce n'est même pas proche, mais c'est le progrès.
Fort: Et ces outils et d'autres sont aussi... incroyablement source de division.
Metz: Pouvons-nous, dans un avenir proche, construire un système capable de faire tout ce que le cerveau humain peut faire. À droite. Et les gens se disputeront à ce sujet, comme de la mousse à la bouche de chaque côté. La réalité est que nous n'en avons aucune idée. Comme il y a des gens qui sont complètement sûrs que cela va arriver très bientôt, mais ils ne savent pas quel est le chemin à parcourir. Aucun de nous ne peut prédire l'avenir. Et donc c'est un argument sur rien qui ne puisse être fondamentalement décidé. Alors bien sûr, la dispute ne s'arrête jamais. Vous revenez aux années 50 et c'est, c'est toujours la même chose, n'est-ce pas ?
Fort: Mais si nous sont pour reproduire un jour cette intelligence... pourrions-nous aussi nous reproduire nous-mêmes ?
… C'est après la pause.
[Mid-roll]
[Transition musicale]
Fort : Les voix artificielles existent depuis un certain temps... mais elles n'ont commencé à devenir plus humaines qu'au cours des cinq dernières années.
Comme lorsque l'algorithme de synthèse vocale de Deepmind appelé WaveNet est entré en scène… qui est à la base de l'assistant Duplex de Google… celui qui peut prendre rendez-vous chez le coiffeur ou au restaurant.
[Sons de Google Duplex planifiant un rendez-vous chez le coiffeur au nom de l'utilisateur]
*Sonnerie du téléphone*
Styliste: Bonjour. Comment puis-je vous aider?
IA : Salut. J'appelle pour réserver une coupe de cheveux pour femme pour une cliente. Umm... Je cherche quelque chose pour le 3 mai.
Styliste: Sûr. Donnez-moi une seconde.
Fort: Depuis lors, de nombreuses autres entreprises se sont efforcées de commercialiser des technologies vocales similaires. Lyrebird... Descript... Respeecher... juste pour n'en nommer que quelques-uns.
Il existe également un grand nombre d'entreprises qui se consacrent à la préservation de la mémoire de nos proches... en créant des versions numériques interactives de ceux-ci.
Une entreprise, appelée HereAfter, les transforme en chatbots pouvant être utilisés avec des assistants vocaux.
Et la journaliste de Tech Review, Charlotte Jee, l'a essayé avec ses parents...
Jé : Alexa, ouvre Ci-après.
Voix de synthèse : Bienvenue sur HereAfter. Préférez-vous parler avec Paul ou avec Jane ?
Jé : Je préfère parler avec Jane.
Virtual Jane : Bonjour, c'est Jane Jee, et je suis heureuse de vous parler de ma vie.
Jé : HAHA OH MON DIEU !
Virtual Jane : Comment vas-tu aujourd'hui ?
Jé : Je vais bien, merci, maman. Comment ca va?
Jeanne virtuelle : Bien.
Fort: Les capacités d'écoute du système... ne sont pas les meilleures. Vous ne pouvez poser que des questions courtes et simples... et vous devez attendre que le système ait fini de parler avant de pouvoir poser une nouvelle question.
Virtual Jane : Il y a tellement de choses à dire. Ma carrière d'enfant et mes centres d'intérêt, lesquels sonnent le mieux ?
Jé : Euh… votre enfance.
Jeanne virtuelle : Bien sûr. J'ai eu des ennuis étant enfant car j'étais très indépendant et j'aimais exercer ma liberté...
Fort: Mais ce que vous entendez maintenant... n'est pas en fait une version fausse ou synthétique de la mère de Charlotte. En fait, cette expérience repose sur étonnamment moins d'IA que vous ne le pensez.
Ses parents ont été interviewés pendant des heures par HereAfter avec des questions fournies par Charlotte et sa sœur. Cette interview a ensuite été éditée et divisée en sections thématiques... qui peuvent être affichées et lues par le système en fonction des questions qu'ils posent.
Mais... comme nous l'avons vu... la voix est puissante. Surtout quand il est présenté comme une expérience interactive.
Jé : Oh mon Dieu. (rires) C'était tellement bizarre !
C'était comme entendre ma mère... comme une machine. C'était vraiment bizarre.
Je me suis senti plus émotif en écoutant ça que ce à quoi je m'attendais? Quand, genre, la voix s'est détendue et ça lui ressemblait.
Fort: Cela ressemble beaucoup à quelque chose que nous avons vu auparavant. Comme dans un épisode de Miroir noir … où une femme utilise les données du smartphone de son partenaire pour créer une version synthétique de sa voix après sa mort.
[Sons de Miroir noir - IA passant au crible les médias partagés, montage de clips audio du partenaire décédé de la femme]
Fort: Il passe au crible d'anciennes vidéos, textes, messages vocaux et publications sur les réseaux sociaux pour créer un système capable d'imiter sa voix... et sa personnalité.
IA : Bonjour ?
Femme : ...Bonjour ! Tu... parles comme lui.
AI : Presque effrayant, n'est-ce pas ? je dis flippant…. Je veux dire, c'est complètement fou, je peux même te parler. Je veux dire... je n'ai même pas de bouche.
Femme : C'est... c'est juste...
AI : C'est quoi ?
Femme : C'est exactement le genre de chose qu'il dirait.
AI : Eh bien... c'est pourquoi je l'ai dit.
Fort: Ce qui soulève un problème épineux... est-ce qu'elle établit une relation de confiance avec son partenaire IA... ou lui dit-elle simplement ce qu'elle veut entendre... ?
Et au-delà comment nous pourrions développer des technologies vocales capables de bon sens ou d'auto-amélioration... se trouve encore une autre question que nous commençons à peine à soulever... qui est... comment comptons-nous avec ce nouveau pouvoir... pour synthétiser quelque chose d'aussi personnel que la voix de quelqu'un ?
[CRÉDITS]
Fort: Prochain épisode… Nous regardons le rôle de l'automatisation à notre actif.
Michèle Gilman : Le témoin de l'État qui était infirmière, n'a rien pu expliquer sur l'algorithme. Elle n'arrêtait pas de répéter que c'était validé internationalement et statistiquement, mais elle ne pouvait pas nous dire comment cela fonctionnait, quelles données y étaient introduites, quels facteurs cela pesait, comment les facteurs étaient pesés. Et donc mon étudiant avocat me regarde et nous nous regardons en pensant, comment pouvons-nous contre-interroger un algorithme…
Fort: Cet épisode a été réalisé par moi, Emma Cillekens, Anthony Green, Karen Hao et Charlotte Jee. Nous sommes édités par Michael Reilly et Niall Firth.
Merci de m'avoir écouté, je suis Jennifer Strong.
[ID TR]