Cette startup affirme que ses deepfakes protégeront votre vie privée

FAIT FAIT

Comme le dit le proverbe : si cela ressemble à un canard, nage comme un canard et cancane comme un canard, c'est probablement un canard. Maintenant, si quelqu'un dans un clip vidéo est de la même race, du même sexe et du même âge que vous, a les mêmes gestes et expressions émotionnelles que vous - et est, en fait, basé sur vous - mais ne vous ressemble pas exactement... est c'est toujours toi ?

Non, selon Gil Perry, cofondateur de la société israélienne de protection de la vie privée FAIT . Et c'est, selon lui, la raison pour laquelle sa startup fonctionne. D-ID prend des séquences vidéo, capturées par une caméra à l'intérieur d'un magasin, par exemple, et utilise la vision par ordinateur et l'apprentissage en profondeur pour créer une alternative qui protège l'identité du sujet. Le processus transforme le vous dans la vidéo en un avatar qui a tous les mêmes attributs mais qui a l'air un peu différent.

L'avantage pour les entreprises est que cette nouvelle vidéo anonymisée ne révèle plus l'identité exacte d'un client, ce qui, selon Perry, signifie que les entreprises utilisant D-ID peuvent éliminer le besoin de consentement et analyser les images à des fins commerciales et marketing. Un magasin peut, par exemple, transmettre la vidéo d'une femme blanche à l'air heureuse à un algorithme qui peut afficher l'annonce la plus efficace pour elle en temps réel. (Il convient de noter que la légitimité de la reconnaissance des émotions a été remise en question, un important groupe de recherche sur l'IA ayant récemment appelé à l'interdiction complète de son utilisation.)

Des exemples du service d'anonymisation intelligent de D-ID montrent différents niveaux de succès pour masquer l'identité dans la vidéo. Dans une démonstration , l'ancien premier ministre britannique David Cameron ressemble un peu à David Cameron avec une moustache. Dans une autre image fixe , une femme semble quelque peu différente, mais les deux images semblent toujours étrangement similaires. Dans un troisième, Brad Pitt devient méconnaissable.

D-ID ne nommerait pas de clients particuliers qui utilisent sa technologie, mais Perry a déclaré que la société travaille principalement avec des détaillants, des constructeurs automobiles et de grands conglomérats qui déploient la vidéosurveillance en Europe. Ann Cavoukian, membre du conseil consultatif de D-ID et ancienne commissaire à la protection de la vie privée de la province canadienne de l'Ontario, affirme que la solution est totalement gagnante.

D'autres experts, cependant, disent que l'entreprise interprète mal la règle générale européenne sur la protection des données, ne fait pas ce qu'elle est censée faire et, même si elle le fait, ne devrait probablement pas le faire de toute façon.

Non-respect du RGPD ?

Trois experts européens de premier plan en matière de confidentialité qui se sont entretenus avec MIT Technology Review ont exprimé leurs inquiétudes concernant la technologie de D-ID et ses intentions. Tous disent qu'à leur avis, D-ID viole en réalité le RGPD. (Cela pourrait cependant être légal dans les zones hors UE.)

La race est une catégorie spéciale dans le cadre du RGPD, ce qui signifie que le traitement de données qui déduit la race est illégal sans consentement explicite, explique Gaëtan Goldberg, avocat spécialisé dans la confidentialité des données auprès du chien de garde du RGPD NOYB. Les violations des règles GDPR peuvent entraîner des amendes de 20 millions d'euros ou 4% du chiffre d'affaires annuel d'une entreprise, selon le montant le plus élevé.

Lorsqu'on lui a présenté ces préoccupations, David Mirchin, un avocat spécialisé dans la protection de la vie privée qui conseille D-ID, n'était pas d'accord avec les experts. Il affirme qu'il n'y a jamais un moment où la solution d'anonymisation intelligente de D-ID analyse, révèle ou stocke ce type de données sensibles. Perry ajoute que D-ID est également heureux d'anonymiser les données ethniques. Les avocats extérieurs, cependant, soutiennent que la simple détection des visages, que ce soit pour les anonymiser ou non, est une violation.

Perry et Mirchin soutiennent également qu'il est acceptable de fournir des données biométriques anonymisées aux algorithmes. Mais bien que le RGPD ne s'applique pas aux données anonymes, la startup n'anonymise en aucun cas la vidéo, déclare Michael Veale, expert en confidentialité à l'University College London. La vidéo brouillée ne serait pas considérée comme anonyme en vertu du RGPD. Avec des données véritablement anonymes, une information ne peut pas être liée à un individu en particulier, même lorsqu'elle est combinée avec d'autres données. C'est une barre haute.

Mais même si les images modifiées ne vous ressemblent pas exactement, elles peuvent être combinées avec d'autres informations (données de localisation tirées des médias sociaux, par exemple, ou des enregistrements de carte de crédit) et retracées. De plus, dit Veale, la technologie ne donnerait toujours pas automatiquement carte blanche aux entreprises pour réutiliser la vidéosurveillance à des fins commerciales assez frivoles qui ne présentent pas un intérêt public sérieux, comme la lutte contre le crime.

Esprit de la loi

Le fait que D-ID se positionne comme une solution de confidentialité est révélateur. Avec des éléments de nouvelles lois sur la protection des données comme le GDPR et le California Consumer Privacy Act qui restent ouverts à l'interprétation, certaines entreprises font preuve d'ingéniosité dans leur marketing. Ces technologies sont conformes aux réglementations d'une manière qui profite aux entreprises qui souhaitent tirer profit des données, plutôt qu'aux personnes dont les données sont capturées. C'est une violation de l'esprit de la loi, disent les critiques. Britt Paris, spécialiste des sciences de l'information à l'Université Rutgers, qualifie D-ID d'exploiteur et d'exemple d'empiètement supplémentaire sur la datafication de la vie quotidienne.

Mais Cavoukian, membre du conseil d'administration de D-ID, dit qu'elle n'est pas une intégriste de la vie privée et pense qu'il n'y a rien de mal à collecter des données tant que l'identité exacte des personnes est masquée.

Si vous ne voulez pas du tout que des données soient collectées à votre sujet, de nos jours, même s'il n'y a pas de problème de confidentialité parce que vos identifiants ont été supprimés, vous ne pourrez pas sortir très loin de chez vous, elle dit. Ce sont les réalités du jour.

La surveillance se généralise de plus en plus. Une étude récente de Pew a révélé que la plupart des Américains pensent qu'ils sont constamment suivis mais ne peuvent pas y faire grand-chose, et le marché de la reconnaissance faciale devrait passer d'environ 4,5 milliards de dollars en 2018 à 9 milliards de dollars d'ici 2024 . Pourtant, la réalité de la surveillance n'empêche pas les militants de riposter. D-ID peut se considérer comme un juste milieu entre le purisme de la vie privée et l'aspiration de données brutes, mais sans la technologie, peut-être que les entreprises couvertes par le RGPD n'utiliseraient pas du tout ces données vidéo.

Ces règles sont là pour un but, non ? déclare Lilian Edwards, experte du RGPD à la Newcastle Law School. [D-ID] dit 'Collecter des données visuelles tout en respectant les règles de confidentialité' et ce que cela signifie vraiment, c'est 'Collecter des données visuelles tout en évitant les règles de confidentialité'. Vous savez, la loi n'est pas complètement stupide.

cacher