Cette IA vous permet de falsifier votre voix pour parler comme Barack Obama

Mme Tech | Images Getty

Voici mon alter ego, Katie :

L'accent, l'émotion et l'intonation sont de moi. Mais d'une manière ou d'une autre, j'ai maintenant l'air d'une femme jeune avec une voix aiguë.

Ma peau de voix féminine a été créée par Module.ai , une société basée à Cambridge, Massachusetts. L'entreprise utilise l'apprentissage automatique pour copier, modéliser et manipuler les propriétés de la voix d'une nouvelle manière puissante.

La technologie va bien au-delà des simples filtres vocaux qui peuvent vous faire ressembler à Kylo Ren. En utilisant cette approche, il est possible d'assumer n'importe quel âge, sexe ou ton que vous souhaitez, le tout en temps réel. Ou de prendre la voix d'une célébrité. Je peux tenir une longue conversation téléphonique sous les traits de Katie si je le souhaite.

J'ai visité le siège social de Modulate pour en savoir plus sur la technologie et les ambitions de l'entreprise, et pour discuter des implications éthiques de l'utilisation de l'IA pour copier la voix de quelqu'un d'autre. Dans une cabine insonorisée, j'ai essayé quelques-unes des peaux de voix de l'entreprise.

Voici ma vraie voix :

Et ici, il est alimenté par un autre personnage :

Et être changé entre les deux personnages en temps réel.

La technologie de modélisation vocale n'est pas parfaite ; chaque nouvelle voix est un peu gazouillante. Mais c'est remarquablement bon, et ça s'améliore en se nourrissant de plus de vos données vocales. Et cela montre comment les progrès de l'apprentissage automatique commencent rapidement à modifier la réalité numérique. Modulate utilise des réseaux antagonistes génératifs (GAN) pour capturer et modéliser les propriétés audio d'un signal vocal. Les GAN opposent deux réseaux de neurones dans une bataille pour capturer et reproduire les propriétés d'un ensemble de données de manière convaincante (voir The GANfather ).

L'apprentissage automatique a permis d'échanger les visages de deux personnes dans une vidéo, à l'aide d'un logiciel téléchargeable gratuitement sur Internet (voir Fake America great again ). Les chercheurs en IA utilisent des GAN et d'autres techniques pour manipuler des scènes visuelles et même évoquer complètement faux visages .

Modulate a un skin de voix de démonstration de Barack Obama sur son site, et le cofondateur et PDG Mike Pappas a déclaré qu'il serait possible d'en générer un pour n'importe qui, avec suffisamment de données de formation. Mais il ajoute que la société ne mettra pas à disposition un skin de voix de célébrité sans l'autorisation du propriétaire. Il insiste également sur le fait que la tromperie n'est pas le point principal.

Ce n'est pas une technologie conçue pour imiter les gens, dit Pappas. Il est conçu pour vous offrir de nouvelles opportunités.

Modulate cible les jeux en ligne tels que Fornite ou Call of Duty, dans lesquels les joueurs peuvent discuter avec des inconnus via un microphone. Cela peut améliorer le jeu, mais cela peut aussi ouvrir la porte aux abus et au harcèlement.

Lorsque nous voulons interagir en ligne et vivre des expériences vraiment profondes, les voix sont cruciales, dit Pappas. Mais certaines personnes ne sont pas disposées à faire entendre leur voix. Dans certains cas, peut-être que je veux juste rester anonyme. Dans d'autres cas, j'ai peur de révéler mon âge ou mon sexe et d'être harcelé.

Savon Charles , professeur à NYU qui étudie la propagation de la désinformation, affirme que la technologie semble nettement plus avancée que les autres technologies de modification de la voix. Et il dit que la façon dont l'IA peut désormais manipuler la vidéo et l'audio a le potentiel de modifier fondamentalement les médias. Nous devons commencer à réfléchir à ce qui constitue la réalité, dit-il.

'Jusqu'à présent, la qualité de la technologie de conversion vocale était faible, de sorte que l'on pouvait facilement distinguer une voix convertie', ajoute Tuomas Virtanen , expert en synthèse vocale et en manipulation à l'Université de Tampere en Finlande. 'Mais je peux imaginer que dans un proche avenir, la qualité sera suffisamment bonne pour que la conversion ne puisse pas être détectée facilement.'

Modulate est conscient que sa technologie peut être utilisée à mauvais escient. L’entreprise dit qu’elle cherchera à s’assurer que tout client copiant la voix de quelqu’un a l’autorisation de cette personne. Il a également développé une technologie de filigrane audio qui pourrait être utilisée pour détecter une voix copiée. Cela pourrait émettre un avertissement si quelqu'un utilise une fausse voix lors d'un appel, par exemple.

«Nous avons intégré des garanties éthiques dans notre entreprise à partir de zéro», déclare le cofondateur et directeur technique, Carter Huffman, «de la façon dont nous distribuons notre technologie, à la façon dont nous sélectionnons les skins vocaux à offrir, au filigrane de notre audio pour la détection dans les zones sensibles. systèmes.

Modulate pourrait être en mesure de limiter l'utilisation abusive de sa propre technologie, mais il est possible que d'autres développent une technologie similaire indépendamment et la rendent disponible pour que les gens en abusent. La question est de savoir dans quelle mesure cela pourrait être mal utilisé et dans quelle mesure le public en deviendra-t-il averti ?

Pappas est optimiste sur le fait que le potentiel de falsification de l'IA est souvent exagéré. C'est certainement quelque chose dont vous voulez être conscient, mais ce n'est pas quelque chose où les facettes mêmes de la société s'effondrent, dit-il. Nous avons des outils pour gérer cela.

cacher