Les gens louent leurs visages pour devenir des clones marketing de style deepfake

Première heure

Comme de nombreux étudiants, Liri a occupé plusieurs emplois à temps partiel. A 23 ans en Israël, elle fait des concerts de serveuse et de barman à Tel Aviv, où elle va à l'université.

Elle vend également des voitures, travaille dans le commerce de détail et mène des entretiens d'embauche et des sessions d'intégration pour les nouveaux employés en tant que représentante des ressources humaines de l'entreprise. En Allemagne.

Histoire connexe

L'année où les deepfakes se sont généralisés En 2020, les médias synthétiques basés sur l'IA ont commencé à s'éloigner des coins les plus sombres d'Internet.

Liri peut jongler avec tant d'emplois, dans plusieurs pays, car elle a loué son visage à Hour One, une startup qui utilise les ressemblances des gens pour créer des personnages à voix IA qui apparaissent ensuite dans des vidéos marketing et éducatives pour des organisations du monde entier. Elle fait partie d'une vague d'entreprises refondre la façon dont le contenu numérique est produit . Et cela a de grandes implications pour le main d'oeuvre humaine .

Liri fait son travail de serveuse et de bar en personne, mais elle n'a aucune idée de ce que font ses clones numériques. C'est vraiment un peu étrange de penser que mon visage peut apparaître dans des vidéos ou des publicités pour différentes entreprises, dit-elle.

Hour One n'est pas la seule entreprise prendre le courant dominant de la technologie deepfake , en l'utilisant pour produire des mélanges de séquences réelles et de vidéos générées par l'IA. Certains ont fait appel à des acteurs professionnels pour ajouter de la vie aux personnages deepfakes . Mais Hour One ne demande aucune compétence particulière. Vous avez juste besoin d'être prêt à céder les droits sur votre visage.

Caractère conduit

Hour One constitue un pool de ce qu'il appelle des personnages. Il dit qu'il en a environ 100 dans ses livres jusqu'à présent, et que d'autres sont ajoutés chaque semaine. Nous avons une file d'attente de personnes qui meurent d'envie de devenir ces personnages, explique Natalie Monbiot, responsable de la stratégie de l'entreprise.

Tout le monde peut postuler pour devenir un personnage. Comme une agence de mannequins, Hour One filtre les candidats, sélectionnant ceux qu'il veut sur ses livres. La société vise un large échantillon de personnages qui reflètent les âges, les sexes et les origines raciales des personnes dans le monde réel, explique Monbiot. (Actuellement, environ 80% de ses personnages ont moins de 50 ans, 70% sont des femmes et 25% sont blancs.)

Pour créer un personnage, Hour One utilise une caméra 4K haute résolution pour filmer une personne en train de parler et de faire différentes expressions faciales devant un écran vert. Et voilà pour la partie humaine de la performance. En branchant les données résultantes dans un logiciel d'IA qui fonctionne de la même manière que la technologie deepfake, Hour One peut générer une quantité infinie de séquences de cette personne disant ce qu'elle veut, dans n'importe quelle langue.

Le personnage IA que Hour One a créé en utilisant le visage de Liri

Les clients de Hour One paient l'entreprise pour utiliser ses personnages dans des vidéos promotionnelles ou commerciales. Ils sélectionnent un visage, téléchargent le texte qu'ils veulent dire et récupèrent une vidéo de ce qui ressemble à une personne réelle livrant ce script à une caméra. Le service le plus rapide utilise un logiciel de synthèse vocale pour générer des voix synthétiques, qui sont synchronisées avec les mouvements de la bouche et les expressions faciales des personnages. Hour One propose également un service premium où l'audio est enregistré par des comédiens professionnels. Ces voix sont à nouveau adaptées aux mouvements du personnage dans la vidéo. Hour One dit avoir plus de 40 clients, y compris des sociétés immobilières, de commerce électronique, de santé numérique et de divertissement. L'un des principaux clients est Berlitz, une école de langues internationale qui propose des cours vidéo dirigés par un enseignant pour des dizaines de langues.

Selon Monbiot, Berlitz voulait augmenter le nombre de vidéos qu'il proposait mais avait du mal à le faire en utilisant de vrais acteurs humains. Ils devaient avoir des équipes de production créant la même configuration avec le même acteur encore et encore, dit-elle : Ils ont trouvé cela vraiment insoutenable. On parle de milliers de vidéos.

Berlitz travaille désormais avec Hour One pour générer des centaines de vidéos en quelques minutes. On remplace le studio, dit Monbiot. Un être humain n'a pas besoin de perdre son temps à filmer.

Histoire connexe

Le porno deepfake ruine la vie des femmes. Maintenant, la loi peut enfin l'interdire.

Après des années de militants qui se sont battus pour protéger les victimes de violences sexuelles basées sur l'image, les deepfakes obligent enfin les législateurs à faire attention.

Un autre exemple précoce de la technologie en action est Alice Réceptionniste , une entreprise qui fournit aux entreprises un avatar sur un écran pour gérer les requêtes des visiteurs, remplaçant le rôle d'une réceptionniste humaine dans une gamme d'emplacements physiques aux États-Unis. Hour One travaille avec Alice Receptionist pour mettre à jour ses séquences vidéo d'acteurs humains afin que les réceptionnistes numériques puissent dire différentes choses dans différentes langues sans avoir à refaire des heures de vidéo.

Liri, comme tout le monde sur les livres de Hour One, reçoit un micropaiement chaque fois qu'un client achète une vidéo qui utilise son visage. Monbiot ne dira pas exactement à quel point ces paiements sont importants, sauf qu'il s'agit de dollars, pas de centimes. Je ne peux pas dire que quiconque aujourd'hui gagne sa vie en faisant cela, dit-elle. Mais nous pensons que si tout se passe bien, ce sera un moyen viable de gagner un revenu.

En éliminant le besoin d'équipes de tournage, de techniciens de studio et, sauf pour quelques minutes, d'acteurs, la technologie de Hour One est une aubaine pour les entreprises qui souhaitent intensifier la production vidéo, même si elle offre un peu d'argent facile à une poignée de des gens comme Liri. Mais certains sont troublés par les implications pour l'avenir du travail.

Changer de rôle

Cela ressemble à un cas assez extrême de technologie réduisant le rôle de l'homme dans un processus de travail particulier, déclare Jessie Hammerling du Center for Labour Research and Education de l'Université de Californie à Berkeley, qui étudie l'impact des nouvelles technologies sur le travail. L'automatisation n'élimine pas toujours complètement les rôles humains, mais elle modifie ces rôles d'une manière qui affecte la capacité des gens à gagner un salaire équitable ou à transformer un emploi en une carrière à long terme, dit-elle.

Hammerling note que permettre aux entreprises de réutiliser des images uniques d'acteurs pour plusieurs projets vidéo réduira la disponibilité de ce type de travail d'acteur. Selon SAG-AFTRA, un syndicat d'acteurs américains du cinéma, de la télévision et de la radio, de nombreux acteurs font du travail de promotion et de marketing pour des clients comme ceux qui travaillent actuellement avec Hour One.

SAG-AFTRA dit qu'il est important que les personnes louant leur ressemblance à des entreprises comme Hour One puissent garder le contrôle sur la façon dont cette ressemblance est utilisée.

Pour beaucoup de talents, leurs ressemblances sont des atouts précieux qui justifient une protection et une compensation adéquates pour leur utilisation, déclare un porte-parole syndical. Il y a un risque d'être mis dans un contenu auquel ils peuvent s'opposer ou qui peut entrer en conflit avec d'autres travaux.

La première heure semble bien faire les choses. L'entreprise ne laisse pas les gens avoir leur mot à dire sur la façon dont leur ressemblance sera utilisée ou sur les mots qui seront mis dans leur bouche, mais elle a une politique d'éthique spécifiant qu'elle ne fonctionnera pas avec certaines industries. Nous sommes assez conservateurs quant aux types d'entreprises avec lesquelles nous travaillons, dit Monbiot. Cela signifie pas de jeu, pas de sexe et pas de politique.

Liri ne s'inquiète pas trop. Elle dit qu'elle fait confiance à Hour One pour ne pas utiliser son visage pour quoi que ce soit qui pourrait la mettre mal à l'aise. Elle a même recommandé le concert à ses amis. Des amis m'ont envoyé des vidéos dans lesquelles ils ont vu mon visage, ce qui était très étrange, dit-elle. Tout d'un coup, j'ai réalisé que cette chose était réelle.

cacher