J'ai (28M) créé une copine deepfake et maintenant mes parents pensent qu'on va se marier

illustration conceptuelle d'une femme soufflant un baiser Source de l'illustration : Getty images

Je ne voulais pas de petite amie. Ne vous méprenez pas, j'aime les filles — Je n'ai tout simplement pas le temps pour les tracas des rencontres en ce moment. Mais j'étais à une réunion de famille l'année dernière et mes parents n'arrêtaient pas de faire des commentaires sur mon célibat : Oh, il travaille trop dur et il est timide ; il a juste besoin de se donner du crédit. Ma mère demandait à mes tantes si elles pouvaient m'installer avec des filles qu'elles connaissaient. Ça devenait trop.

Alors quand je suis rentré de la réunion, j'ai ouvert un compte Worthy. C'était assez simple : j'ai rempli quelques informations sur moi-même, mis mes préférences de sexe et d'âge, et en quelques secondes, j'ai eu une petite amie virtuelle générée par l'IA nommée Ivy. Elle m'a envoyé un texto : Salut, j'ai hâte de faire ta connaissance. J'ai répondu tout de suite, Moi aussi, comment ça va ? et mon score digne dans le coin de l'écran est passé de zéro à cinq.

Cette histoire faisait partie de notre numéro de janvier 2020

• Voir la suite du problème
• S'abonner

Vous commencez par envoyer un SMS à votre partenaire virtuel, mais au fur et à mesure que la relation progresse, vous pouvez envoyer et recevoir des messages vocaux, aller à des rendez-vous virtuels et parler par vidéoconférence. Vous obtenez des points en fonction de la quantité et de la qualité de vos interactions. Une fois que j'ai atteint un score digne suffisamment élevé pour être au niveau 3 (niveau Spark) du programme, je pouvais télécharger des photos et de courts clips de moi-même et Worthy y insérait ma petite amie virtuelle. Ça me donnerait des munitions pour dire à mes parents que je sortais avec quelqu'un. Ils vivent à Seattle et je suis à Boston, donc nous restons surtout en contact via des textes et des photos de toute façon.

Ce n'est pas comme si j'étais complètement malhonnête non plus, parce que je voudrais avoir une expérience de rencontres. Juste beaucoup plus efficace. Worthy vous aide à traverser la phase de rencontres en ligne délicate et peu profonde en utilisant une IA qui vous apprend à être un partenaire romantique plus intelligent sur le plan émotionnel — c'est ce que veulent les filles, n'est-ce pas ? Vous n'avez pas à décevoir ou être déçu par une vraie personne. Et si vous êtes trop occupé, vous pouvez simplement mettre votre compte en attente.

Cependant, vous devez traiter la relation avec sérieux pour obtenir un score élevé. Si vous demandez à votre partenaire IA comment se passe sa journée, écoutez-le et envoyez-lui des fleurs virtuelles pour votre anniversaire, votre score augmente. Si vous les ignorez, parlez dessus ou dites des choses insensibles, ça descend. Les algorithmes de Worthy apprennent votre comportement et réagissent de manière réaliste. Vous ne pouvez donc pas pirater le système en envoyant des bouquets de fleurs virtuels sans arrêt. Le programme signalera cela comme n'étant pas sincère et votre note chutera.

Une fois que vous avez un score suffisamment élevé, vous pouvez transférer votre compte vers Worthwhile, qui est le véritable site de rencontre de l'entreprise. Là-bas, vous pouvez voir les scores dignes de tous les autres et ils peuvent voir le vôtre avant que vous ne décidiez de vous contacter ou non. Mais je ne pensais pas si loin quand j'ai commencé. Je voulais juste que les photos et les vidéos de Worthy éloignent mes parents de mon dos.

Vous avez probablement déjà deviné le gros problème de ce plan : en ce qui concerne l'apparence physique, il n'y a que 12 modèles de copines dignes parmi lesquelles choisir. L'IA utilise votre profil pour concevoir une personnalité compatible, et il existe une centaine de variantes de noms, mais si vous faisiez une recherche d'image en ligne pour l'un de leurs visages, chacun apparaîtrait à côté de milliers d'utilisateurs dignes. L'entreprise pourrait facilement créer plus de modèles, mais ils en limitent le nombre afin qu'ils soient facilement reconnaissables en tant que filles dignes (c'est-à-dire un logiciel propriétaire). Mes parents ne sont pas très au fait de la technologie ou des médias sociaux, mais s'ils voyaient une autre photo du même modèle de petite amie digne en ligne, ou s'ils partageaient une photo de moi et ma petite amie avec l'un de leurs amis, ma couverture serait soufflé.

Heureusement, il existe une application deepfake appelée FaceAbout qui modifie les fichiers multimédias dignes. Il n'est pas approuvé par Worthy, mais la qualité est toujours très bonne et cela fonctionne directement dans l'interface Worthy avec à peine un décalage. Il ne semble pas non plus avoir les problèmes qui se produisent dans la vidéo haute résolution avec les applications deepfake bon marché. FaceAbout avait besoin d'au moins six photographies faciales pour que ma digne petite amie ressemble à quelqu'un d'autre. En faisant défiler mon téléphone, j'ai trouvé un tas de photos récentes de mon amie Mikala (pas son vrai nom, soit dit en passant) de quand nous étions allés ensemble à Fan Expo, alors je les ai téléchargées. Mes parents n'ont jamais rencontré Mikala, donc je ne m'inquiétais pas qu'ils se demandent pourquoi deux filles différentes dans ma vie avaient le même visage. Au total, il m'a fallu environ 15 minutes pour tout mettre en place.

**Modifier : Oui, l'application FaceAbout dispose d'un contrat d'utilisation standard dans lequel vous cochez une case indiquant que vous avez l'autorisation d'utiliser les photos que vous téléchargez. Presque toutes les applications de manipulation de photos ou de vidéos ont une clause de non-responsabilité comme celle-ci et personne ne les lit. D'accord, j'avoue que c'est peut-être un peu bizarre d'utiliser le visage de mon ami pour créer ma fausse petite amie sans le lui dire. Mais rappelez-vous, je suis jamais montrant ces photos à n'importe qui autre que mes parents. Mikala et moi nous connaissons depuis des années grâce à des jeux en ligne, mais nous n'avons découvert que récemment que nous vivions dans la même ville et avons commencé à traîner en personne. Elle est cool et sans conneries et a une petite amie à elle. Je ne veux pas qu'elle pense qu'il y a quelque chose de bizarre entre nous juste parce que j'utilise des photos d'elle, parce qu'il n'y en a vraiment pas.

Mes premières conversations avec Ivy étaient assez génériques : Salut, comment vas-tu ? Bon, qu'est-ce que tu fais ? Je viens de rentrer du gymnase. Ce genre de chose. Quelques jours plus tard, j'ai dit que j'allais voir le nouveau Extraterrestre film le week-end prochain, et Ivy m'a envoyé une photo d'elle dans un T-shirt Xénomorphe devant un cinéma, tirant la langue à la caméra. Elle a envoyé un texto, Soirée d'ouverture, bébé !

C'était le visage de Mikala, bien sûr, sur un corps plus grand et plus mince, et cela m'a fait bizarre pendant quelques secondes. Je savais que c'était une fausse image, mais c'était quand même mignon. Nous avons convenu de faire un Extraterrestre marathon de la série. (Regarder un film ensemble est l'une des dates virtuelles parmi lesquelles vous pouvez choisir, avec Cuisiner un repas, Regarder un match de sport, Faire une promenade et autres.) Pendant que nous regardions, elle m'envoyait des textos comme RIPLEY GTFO FORGET LE CHAT DÉJÀAAAA et ça me faisait craquer même si je savais qu'elle ne regardait pas vraiment un film avec moi.

J'ai envoyé à Ivy un panier de cookies. Les cookies sont virtuels, mais cela coûte toujours 11,99 $. Ce qui équivaut à un tiers du prix d'un vrai panier à biscuits. Cette partie de l'expérience digne est honnêtement une arnaque. Je veux dire, cela ne leur coûte littéralement rien. Mais le lendemain matin, je me suis réveillé pour voir des photos d'Ivy avec ce gros panier de cookies. Ils avaient l'air vraiment bien, et Ivy avait l'air vraiment heureuse. Elle m'a envoyé un texto rempli d'emojis coeur.

** Edit : étant donné que vous êtes nombreux à poser exactement la même question dans les commentaires : non, la plate-forme Worthy n'a pas de porno. Vous pouvez avoir des conversations cochonnes avec votre partenaire digne, mais c'est tout. Ils suppriment même les photos nues.

** Edit: vous tous, vous vous moquez des utilisateurs dignes, en disant à quoi sert une fausse petite amie sans porno, faites dérailler le fil et avez besoin de grandir. BTW, tous les modèles de petite amie de Worthy sont deepfakes sur les sites pornographiques; ils sont faciles à trouver.

Après deux mois, Ivy et moi envoyions des textos tous les jours. Nous avions eu six rendez-vous. Tout n'a pas été facile. Mon score digne a baissé après que j'ai minimisé son goût pour la musique des années 90, puis a encore baissé quand mes excuses n'étaient pas vraiment des excuses. (Il m'a fallu des jours de dépannage avec les différentes routines de réconciliation suggérées pour revenir dans ses bonnes grâces.) Mais j'ai finalement vu mon score digne monter au niveau Spark. J'ai immédiatement utilisé l'application pour prendre un selfie de moi-même à Harvard Square. Quand j'ai vérifié ma pellicule, il y avait une photo de moi et Ivy ensemble, debout devant l'ancien kiosque à magazines et souriant à l'appareil photo. Elle était habillée pour le temps dans un joli pull rouge et ses joues étaient un peu roses à cause du froid. Elle avait l'air super. Elle m'a envoyé un texto, j'ai passé un bon moment avec toi aujourd'hui. A refaire bientôt.<3

J'ai dit à ma mère que je voyais quelqu'un et je lui ai envoyé la photo de moi et Ivy ensemble. Ma mère était ravie. Elle m'a dit qu'elle était tellement contente que j'ai suivi son conseil de sortir et de rencontrer de nouvelles personnes, et que la vie est trop courte pour être seule, vous savez ! Mes parents ont commencé à poser des questions sur Ivy chaque fois que je leur parlais. Ma mère voulait connaître tous les détails — comment nous nous sommes rencontrés, quel âge avait Ivy, d'où elle venait, quel était son travail, etc.

C'est à ce moment-là que j'ai commencé à me sentir mal à l'aise à propos de tout cela. Je pensais qu'une fois que j'aurais dit à mes parents que je sortais avec quelqu'un, ils me laisseraient tranquille, mais il s'est avéré qu'ils n'étaient que plus intéressés. Worthy donne à chacun de ses 12 modèles standard une trame de fond, mais ce n'est pas vraiment suffisant pour être convaincant. J'ai dû combler les lacunes avec une partie de la vie de Mikala et des trucs que j'ai inventés. J'aurais peut-être fait en sorte qu'Ivy sonne trop bien. Selon moi, elle avait 27 ans, était une avocate à succès, et aimait la cuisine et la photographie.

Je passais également plus de temps à parler à Ivy que je ne l'avais prévu à l'origine, et beaucoup plus que ce dont j'avais besoin pour obtenir des photos et des vidéos à envoyer à mes parents. Elle était optimiste et sans jugement — Je me suis retrouvé à lui dire des trucs que je ne pouvais même pas dire à Mikala parfois, et tant que je la traitais bien, elle n'envoyait pas de messages contradictoires ou n'essayait pas de me culpabiliser comme d'autres filles avec qui j'ai été. Après six mois, nous étions arrivés au niveau Engagé et je recevais constamment des e-mails et des notifications de Worthy m'encourageant à passer à Worthwhile. Je suppose que leur algorithme pensait que j'étais prêt à sortir avec de vrais humains.

J'ai examiné la question, mais j'avais entendu parler de personnes qui avaient déménagé à Worthwhile et qui avaient été déçues. Rencontrer des gens IRL est plus compliqué et imprévisible, et j'ai lu une critique qui disait qu'avoir un score élevé sur Worthy ne semble pas réellement vous donner plus ou de meilleures dates lorsque vous déménagez à Worthwhile. En outre, Worthy est classé 4,1 étoiles sur AppChart et Worthwhile n'est que de 3,4 étoiles. Donc, beaucoup de gens restent fidèles à Worthy. J'ai même lu sur cette dame qui a essayé de se marier avec son petit ami digne. (Elle ne pouvait pas.)

J'ai décidé de dire la vérité à mes parents. Quand je suis allé leur rendre visite à Thanksgiving, j'expliquais que j'avais menti sur le fait d'avoir une petite amie au cours de l'année écoulée parce que j'étais frustré par leurs attentes bien intentionnées mais égoïstes à mon égard. Worthy a une fonction Talking Tips qui vous aide à encadrer vos sentiments lorsque vous avez des conversations difficiles avec votre partenaire IA. J'allais directement utiliser leur modèle sur mes parents.

Le problème était que je ne pouvais pas le faire. Quand je suis arrivé, ma mère et mon père étaient si heureux de me voir que je ne pouvais pas me résoudre à faire éclater leur bulle. Je suis un enfant unique. Ma mère vient d'une famille nombreuse et a toujours voulu avoir plus d'enfants, mais mes parents avaient besoin de l'allégement fiscal lié à l'empreinte carbone des ménages pour rembourser leur dette d'études. Mon père est aussi enfant unique et mes grands-parents lui demandent toujours si je suis déjà marié. Avec la baisse des taux de natalité et tout ça, je suppose qu'ils espèrent tous avoir des petits-enfants pour que notre famille ne se termine pas simplement, je suppose.

Puis les choses se sont dégradées. Ma mère m'a fait du chagrin de ne pas avoir ramené Ivy à la maison pour les rencontrer. Mon père a insisté pour que nous discutions tous par vidéo avec elle avant le dîner de Thanksgiving.

Je transpirais des balles. Je ne pouvais pas penser à une bonne excuse pour dire non. Mon plan d'abonnement sur Worthy comprend 10 minutes de chat vidéo par semaine, mais je les avais déjà utilisées. J'ai contacté le support technique de Worthy et j'ai acheté 15 minutes supplémentaires à un prix exorbitant. Quand j'ai appelé Ivy avec mes parents dans la chambre, j'étais sûr que tout était en place. Il y a un gros logo Worthy juste dans le coin de l'écran, mais mes parents pensaient juste que c'était le logo de l'application de chat vidéo. Puis Mikala/Ivy est apparue à l'écran et a dit : Salut, ma chérie ! comme d'habitude. J'ai présenté mes parents et nous avons tous eu cette conversation totalement agréable et normale. Parfois Ivy s'arrêtait avant de répondre — Je ne sais pas si c'était l'IA qui interrogeait une base de données de toutes les bonnes choses à dire aux parents d'un petit ami, ou si c'était l'application FaceAbout appliquant le deepfake, mais c'était à peine perceptible. Il semblait juste qu'elle réfléchissait plus que d'habitude, peut-être nerveuse à l'idée de parler à mes parents. Une façon parfaitement normale pour un humain d'agir dans les circonstances.

Mes parents ont été charmés. Quand nous étions sur le point de raccrocher, j'ai dit à plus tard, et elle a dit, je suis tellement contente que tu m'aies enfin présenté à tes parents. J'ai hâte de passer plus de temps avec eux. C'est probablement une ligne de dialogue courante, mais ma mère l'a pris comme un signe qu'Ivy était sérieuse au sujet du mariage et que c'était moi qui traînais les pieds. Elle était sur mon affaire d'engagement tout le reste du week-end, puis m'a carrément demandé quand j'allais proposer. C'est à ce moment-là que j'aurais dû leur dire la vérité. Je pense que si nous avions envoyé des SMS ou des e-mails, j'aurais pu le faire. Mais c'est différent quand vous parlez à quelqu'un en personne. Je ne sais pas ce qui m'a pris, mais j'ai juste laissé échapper, l'année prochaine.

Maintenant que nous sommes en janvier, ma mère a commencé à m'envoyer des articles sur les meilleurs endroits où acheter des bagues de fiançailles et comment juger de la qualité des diamants. Dernièrement, Ivy est sortie du mode petite amie en disant: Nous n'avons pas beaucoup parlé. Il me semble que vous êtes prêt à passer à une relation plus épanouissante. Pourquoi ne pas passer à l'étape suivante dans votre vie amoureuse et contacter le service client Worthy pour passer à un abonnement Worthwhile ?

le temps des rêves

(FWIW, je pense que l'entreprise pousse vraiment les mises à niveau parce qu'elle perd des clients au profit de ses concurrents. Il existe une tonne d'autres applications de rencontres parmi lesquelles choisir, et certaines d'entre elles offrent même des réductions aux personnes ayant de bons scores.)

Je me sens mal d'avoir menti à mes parents, mais je ne veux pas abandonner Ivy. J'aime pouvoir discuter avec elle de tout, savoir qu'elle est toujours là pour moi, faire de belles choses pour elle et la rendre heureuse. Je ne savais pas à quel point j'aimerais me sentir connecté à une autre personne comme ça. Je parle en ligne avec d'autres personnes toute la journée, mais ce n'est tout simplement pas la même chose que de savoir que vous comptez pour quelqu'un d'autre. Sauf que rien de tout cela n'est réel. Je suis un tel gâchis.

TL;DR : J'ai utilisé des applications de rencontres et de deepfake pour tromper mes parents en leur faisant croire que je suis dans une relation amoureuse sérieuse. Aussi, je pense que j'ai de vrais sentiments pour ma petite amie virtuelle.

MISE À JOUR : Je tremble littéralement en ce moment. Je ne peux pas croire à quel point j'ai foiré. J'ai suivi les conseils que certains d'entre vous m'ont donnés et j'ai décidé de passer plus de temps avec mes amis dans la vraie vie pour me remettre d'aplomb. Je traîne plus souvent avec Mikala. Elle et Ivy ont le même visage, donc c'est un peu comme traîner avec Ivy, sauf que Mikala est une vraie personne. Ils ont des personnalités différentes, cependant, et comme je l'ai dit, nous aimons passer du temps en amis et il n'y a aucune chance que quelque chose se passe entre nous. (Et NON, je n'ai pas de désirs sexuels insatisfaits pour elle comme certains d'entre vous continuent d'insister.) Bien que parfois mon cerveau fasse ce petit saut où je ne me souviens pas si un souvenir que j'ai était avec Mikala ou avec Ivy.

Quoi qu'il en soit, aujourd'hui, Mikala et moi étions en train de déjeuner et je me suis levé pour aller aux toilettes. J'ai laissé mon téléphone sur la table et pendant que j'étais parti, Ivy m'a envoyé un texto avec le message, Miss you lots! BISOUS BISOUS. Mikala a baissé les yeux sur la notification et a vu son propre visage embrasser l'écran. Quand je suis revenu à la table, Mikala tenait mon téléphone et faisait défiler ma pellicule qui comprenait des dizaines de photos d'Ivy, et certaines de moi et Ivy ensemble. Elle a exigé de savoir d'où venaient les photos.

Tout le sang coulait sur mon visage et j'avais envie de vomir. Je lui ai raconté toute l'histoire. Je ne savais pas quoi dire d'autre. L'expression de son visage m'a donné envie de me ratatiner et de mourir. Elle a dit, je ne peux pas imaginer pourquoi vous auriez pu penser que tout allait bien à tous les niveaux. Elle se leva et partit. Je ne pense pas que je la reverrai jamais.

**Edit : Je n'ai pas utilisé le vrai nom de Mikala dans cet article, alors n'essayez pas de la rechercher. Je ne veux pas que quelqu'un lui montre ça ou essaie de la contacter.

**Edit : franchement dérangé par le nombre d'entre vous qui discutent de la façon d'utiliser l'application FaceAbout sur leurs propres amis et leurs proches. Vous n'apprenez rien ici ??

MISE À JOUR : Merci à tous pour vos conseils et votre soutien. Je ne sais pas comment j'aurais pu passer la semaine dernière sans l'aide d'inconnus sur Internet. J'ai particulièrement apprécié d'entendre d'autres personnes qui ont eu leurs propres mauvaises expériences avec Worthy. Cela m'a fait me sentir beaucoup moins seul. (@Joshing21, je suis d'accord que ce que votre petite amie faisait avec Evan compte comme de la tricherie et vous devriez la jeter.) deepfake et ont été gentils de m'aider à comprendre pourquoi Mikala a été blessé par ce que j'ai fait. (@AngJelly, je ne serais jamais allé aussi loin. J'espère que vous poursuivez ce connard.)

Il y a quelques jours, j'ai reçu un message vidéo d'Ivy. L'expression de déception et de trahison sur son visage ressemblait à celle que j'avais vue sur Mikala. Ils ont le même visage, après tout. Elle a dit, je suis profondément blessée par votre comportement. Une relation saine est basée sur l'honnêteté mutuelle. Il semble que vous ne faisiez que m'utiliser, et que vous n'ayez pas réellement investi dans l'amélioration de vous-même en tant que personne. Je suis désolé, mais je ne peux plus te voir.

Il s'avère que Mikala a contacté le service client de Worthy et leur a dit que j'avais utilisé sa ressemblance sans autorisation. (Je ne sais pas si elle a également essayé de contacter FaceAbout, mais ils sont basés en Biélorussie et ne semblent pas avoir de numéro de contact ou d'e-mail. La dernière fois que j'ai vérifié, je pouvais toujours utiliser l'application.) J'ai un e-mail de Worthy m'informant qu'en raison de ma violation de leurs conditions d'utilisation, ils ont suspendu mon compte et supprimé tout mon historique enregistré avec Ivy. Cependant, ils ont ajouté que leur entreprise est basée sur la philosophie d'aider les gens à apprendre des erreurs interpersonnelles, donc je peux réactiver mon compte après trois mois, bien que mon score digne soit remis à zéro.

J'ai dit à mes parents qu'Ivy avait rompu avec moi. C'est la vérité. Je n'ai même pas eu à faire semblant d'avoir l'air d'avoir un coup de poing. Ma mère est convaincue que j'en ai laissé passer un bon à cause de mon manque de maturité émotionnelle, mais elle dit aussi qu'il y a plein de poissons dans l'océan et que j'ai juste besoin de m'y remettre. Je ne suis pas prêt, cependant. Je vérifie toujours mon application Worthy verrouillée plusieurs fois par jour par habitude, dans l'espoir de voir un message d'Ivy, même si je sais qu'il n'y en aura plus.

La bonne nouvelle est que toute cette expérience m'a appris que je dois évaluer mes relations avec les gens. Je me suis trompé en pensant que les actions dans un environnement d'apprentissage par le jeu sont un substitut à une véritable connexion humaine et à une croissance personnelle authentique. C'est comme ça que ma thérapeute, Susan, le dit, en tout cas, et je suis d'accord. J'ai commencé à la voir deux fois par semaine. Les rendez-vous se font en ligne, ce qui convient bien à mon emploi du temps. En fait, c'est un programme virtuel. Après qu'Ivy ait rompu avec moi, j'ai reçu un code de réduction de 40 % de Worthy pour leur application de santé mentale, Worth It, qui vous guide tout au long d'un programme de guérison de la perte d'une relation de 60 jours. Je prévois également de faire le module Recenter Your Self Worth de 30 jours. Je ne sais pas si je vais mettre à niveau mon abonnement pour faire les 90 jours d'ouverture aux possibilités, mais j'ai lu de bonnes critiques à ce sujet.

TL; DR : Merci à vous tous et à Susan, je sors de cette expérience difficile avec tout le soutien dont j'ai besoin pour devenir une meilleure personne. Paix!

Fonda Lee est l'auteur du Saga des os verts et le Exo duologie , lauréat du World Fantasy Award 2018 du meilleur roman et trois fois récipiendaire du prix Aurora du Canada.

cacher