Comment empêcher l'IA de reconnaître votre visage dans les selfies

Mme Tech | Unsplash

Télécharger des photos personnelles sur Internet peut donner l'impression de lâcher prise. Qui d'autre y aura accès, qu'en fera-t-il et quels algorithmes d'apprentissage automatique aideront-ils à former ?

La société Clearview a déjà fourni aux forces de l'ordre américaines avec un outil de reconnaissance faciale formé sur des photos de millions de personnes extraites du Web public. Mais ce n'était probablement que le début. Toute personne possédant des compétences de base en codage peut désormais développer un logiciel de reconnaissance faciale, ce qui signifie qu'il y a plus de potentiel que jamais pour abuser de la technologie dans tous les domaines, du harcèlement sexuel et de la discrimination raciale à l'oppression politique et à la persécution religieuse.

Histoire connexe

C'est ainsi que nous avons perdu le contrôle de nos visages

La plus grande étude jamais réalisée sur les données de reconnaissance faciale montre à quel point l'essor de l'apprentissage en profondeur a alimenté une perte de confidentialité.

Un certain nombre de chercheurs en IA repoussent et développent des moyens de s'assurer que les IA ne peuvent pas apprendre des données personnelles. Deux des derniers sont présentés cette semaine à l'ICLR, une conférence de premier plan sur l'IA.

Je n'aime pas que les gens me prennent des choses qu'ils ne sont pas censés avoir, dit Emily Wenger de l'Université de Chicago, qui a développé l'un des premiers outils pour le faire , appelée Fawkes, avec ses collègues l'été dernier : Je suppose que beaucoup d'entre nous ont eu une idée similaire en même temps.

Empoisonnement des données n'est pas nouveau. Des actions telles que la suppression des données que les entreprises ont sur vous ou la délibération d'ensembles de données polluants avec de faux exemples peuvent rendre plus difficile pour les entreprises la formation de modèles d'apprentissage automatique précis. Mais ces efforts nécessitent généralement une action collective, avec la participation de centaines ou de milliers de personnes, pour avoir un impact. La différence avec ces nouvelles techniques est qu'elles travaillent sur les photos d'une seule personne.

Cette technologie peut être utilisée comme clé par un individu pour verrouiller ses données, explique Sarah Erfani de l'Université de Melbourne en Australie. C'est une nouvelle défense de première ligne pour protéger les droits numériques des personnes à l'ère de l'IA.

Cachant à la vue

La plupart des outils, y compris Fawkes, adoptent la même approche de base. Ils apportent de minuscules modifications à une image qui sont difficiles à repérer avec un œil humain, mais rejettent une IA, l'amenant à mal identifier qui ou ce qu'elle voit sur une photo. Cette technique est très proche d'une sorte d'attaque contradictoire, où de petites modifications des données d'entrée peuvent forcer les modèles d'apprentissage en profondeur à faire de grosses erreurs.

Donnez à Fawkes un tas de selfies et cela ajoutera des perturbations au niveau des pixels aux images qui empêchent les systèmes de reconnaissance faciale de pointe d'identifier qui est sur les photos. Contrairement aux méthodes précédentes, telles que le port de peinture faciale imitant l'IA, les images restent apparemment inchangées pour les humains.

Wenger et ses collègues ont testé leur outil sur plusieurs systèmes commerciaux de reconnaissance faciale largement utilisés, notamment AWS Rekognition d'Amazon, Microsoft Azure et Face++, développé par la société chinoise Megvii Technology. Dans une petite expérience avec un ensemble de données de 50 images, Fawkes était efficace à 100 % contre toutes, empêchant les modèles formés sur des images modifiées de personnes de reconnaître plus tard les images de ces personnes dans de nouvelles images. Les images de formation trafiquées avaient empêché les outils de former une représentation précise des visages de ces personnes.

Histoire connexe

Le NYPD a utilisé un outil de reconnaissance faciale controversé. Voici ce que vous devez savoir.

Des e-mails récemment publiés montrent que la police de New York utilise largement le système controversé de reconnaissance faciale Clearview AI et fait des déclarations trompeuses à ce sujet.

Fawkes a déjà été téléchargé près d'un demi-million de fois depuis le site web du projet . Un utilisateur a également construit un version en ligne , ce qui le rend encore plus facile à utiliser pour les gens (bien que Wenger ne se porte pas garant des tiers utilisant le code, avertissement : vous ne savez pas ce qui arrive à vos données pendant que cette personne les traite). Il n'y a pas encore d'application pour téléphone, mais rien n'empêche quelqu'un d'en créer une, dit Wenger.

Fawkes peut empêcher un nouveau système de reconnaissance faciale de vous reconnaître – le prochain Clearview, par exemple. Mais cela ne sabotera pas les systèmes existants qui ont déjà été formés sur vos images non protégées. La technologie s'améliore tout le temps, cependant. Wenger pense qu'un outil développé par Valeriia Cherepanova et ses collègues de l'Université du Maryland, l'une des équipes de l'ICLR cette semaine, pourrait résoudre ce problème.

Appelé Discret , l'outil étend Fawkes en appliquant des perturbations aux images basées sur un type d'attaque adverse plus fort, qui trompe également les modèles commerciaux pré-entraînés. Comme Fumseck, LowKey est également disponible en ligne .

Erfani et ses collègues ont ajouté une touche encore plus importante. En collaboration avec Daniel Ma de l'Université Deakin et des chercheurs de l'Université de Melbourne et de l'Université de Pékin à Pékin, Erfani a développé un moyen de transformer les images en ' exemples incompréhensibles ', ce qui fait qu'une IA ignore entièrement vos selfies. Je pense que c'est génial, dit Wenger. Fawkes forme un modèle pour apprendre quelque chose de mal sur vous, et cet outil forme un modèle pour ne rien apprendre sur vous.

Des images de moi récupérées sur le Web (en haut) sont transformées en exemples impossibles à apprendre (en bas) qu'un système de reconnaissance faciale ignorera. (Merci à Sarah Erfani, Daniel Ma et collègues)

Contrairement à Fawkes et à ses partisans, les exemples impossibles à apprendre ne sont pas basés sur des attaques contradictoires. Au lieu d'introduire des changements dans une image qui forcent une IA à faire une erreur, l'équipe de Ma ajoute de minuscules changements qui incitent une IA à l'ignorer pendant l'entraînement. Lorsqu'elle sera présentée avec l'image plus tard, son évaluation de ce qu'elle contient ne sera pas meilleure qu'une supposition aléatoire.

Les exemples incompréhensibles peuvent s'avérer plus efficaces que les attaques contradictoires, car ils ne peuvent pas être entraînés contre. Plus une IA voit d'exemples contradictoires, mieux elle les reconnaît. Mais parce qu'Erfani et ses collègues empêchent une IA de s'entraîner sur des images en premier lieu, ils affirment que cela ne se produira pas avec des exemples impossibles à apprendre.

Wenger est résigné à une bataille en cours, cependant. Son équipe a récemment remarqué que le service de reconnaissance faciale de Microsoft Azure n'était plus usurpé par certaines de leurs images. Il est soudainement devenu résistant aux images masquées que nous avions générées, dit-elle. Nous ne savons pas ce qui s'est passé.

Microsoft a peut-être changé son algorithme, ou l'IA a peut-être simplement vu tellement d'images de personnes utilisant Fawkes qu'elle a appris à les reconnaître. Quoi qu'il en soit, l'équipe de Wenger a publié la semaine dernière une mise à jour de son outil qui fonctionne à nouveau contre Azure. C'est une autre course aux armements du chat et de la souris, dit-elle.

Pour Wenger, c'est l'histoire d'Internet. Des entreprises comme Clearview capitalisent sur ce qu'elles perçoivent comme des données librement disponibles et les utilisent pour faire ce qu'elles veulent, dit-elle.

La réglementation peut aider à long terme, mais cela n'empêchera pas les entreprises d'exploiter les failles. Il y aura toujours un décalage entre ce qui est légalement acceptable et ce que les gens veulent réellement, dit-elle. Des outils comme Fawkes comblent cette lacune.

Donnons aux gens un pouvoir qu'ils n'avaient pas auparavant, dit-elle.

cacher