Une application d'intelligence artificielle qui vous transforme en star de cinéma a risqué la vie privée de millions de personnes

Catégorie: Intelligence artificielle Posté 04 sept.

ZAO, une application chinoise virale qui utilise l'IA pour échanger des visages entre des utilisateurs et des acteurs célèbres, est maintenant impliquée dans une controverse majeure sur la confidentialité.

Les nouvelles: Vendredi, une nouvelle application publiée par Momo, un développeur de réseaux sociaux, est instantanément devenue virale sur les réseaux sociaux chinois. Il permet aux utilisateurs de télécharger un seul portrait et, en quelques secondes, voir leur visage superposé sur des acteurs dans des scènes de films emblématiques. Dimanche, il avait devenir le plus téléchargé application de divertissement gratuite sur l'Apple Store chinois.

Fausse IA : Il s'agit de la dernière application, et peut-être la plus impressionnante, des réseaux antagonistes génératifs, ou GAN, les algorithmes d'IA derrière les deepfakes. Alors que les GAN ont déjà été utilisés pour l'édition et l'échange de visages (de plus en plus dans les films hollywoodiens), l'utilisation par ZAO d'une seule photo, associée à la rapidité et à la fluidité de son échange, montre à quel point l'état de l'art en matière de faux médias a avancé.

La controverse: Quelques heures après sa sortie, ZAO a commencé à susciter des inquiétudes en matière de confidentialité, en particulier à propos d'une clause de l'accord d'utilisation qui donnait aux développeurs le droit d'utiliser gratuitement toutes les photos téléchargées à perpétuité. Cela leur permettait également de transférer ce droit à un tiers sans l'autorisation de l'utilisateur. Des experts juridiques en Chine ont déclaré que ce n'était pas légal et, samedi, le développeur de l'application avait cédé sous la pression et supprimé la clause. WeChat, la principale application de réseautage social en Chine, a également interdit tout partage de séquences ou de photos de ZAO.

Déjà vu: L'épisode a rejoué une controverse similaire sur FaceApp, une application de retouche photo devenue virale en juillet. L'application a également utilisé des GAN pour retoucher les portraits des personnes et a amassé plus de 150 millions de photos de visages depuis son lancement. ZAO a reçu un contrecoup beaucoup plus rapide et plus net, mais il avait probablement déjà été utilisé par des millions d'utilisateurs au moment où il a révisé sa politique. D'une part, la fréquence de tels incidents montre avec quelle facilité les données personnelles d'un utilisateur peuvent désormais être cooptées et réutilisées au-delà de son contrôle. D'autre part, cela montre que les gens sont également devenus plus sensibles à la vie privée et sont moins disposés à y renoncer sans se battre.

Pour recevoir plus d'histoires comme celle-ci directement dans votre boîte de réception, inscrivez-vous à notre newsletter AI nominée par Webby, The Algorithm. C'est gratuit.