Le hack qui pourrait faire croire que quelqu'un d'autre est vous grâce à la reconnaissance faciale

Michael Aléo / Unsplash

Les chercheurs ont démontré qu'ils peuvent tromper un système moderne de reconnaissance faciale en voyant quelqu'un qui n'est pas là.

Une équipe de la société de cybersécurité McAfee a mis en place l'attaque contre un système de reconnaissance faciale similaire à ceux actuellement utilisés dans les aéroports pour la vérification des passeports. En utilisant l'apprentissage automatique, ils ont créé une image qui ressemblait à une personne à l'œil humain, mais qui a été identifiée comme quelqu'un d'autre par l'algorithme de reconnaissance faciale - l'équivalent de tromper la machine pour qu'elle permette à quelqu'un de monter à bord d'un vol alors qu'il était sur un no- liste de vol.

Si nous allons devant une caméra en direct qui utilise la reconnaissance faciale pour identifier et interpréter qui ils regardent et la comparer à une photo de passeport, nous pouvons de manière réaliste et répétée provoquer ce type d'erreur de classification ciblée, a déclaré l'auteur principal de l'étude, Steve Povolny.

Comment ça fonctionne

Pour détourner l'algorithme, les chercheurs ont utilisé un algorithme de traduction d'image connu sous le nom de CycleGAN, qui excelle dans le morphing des photographies d'un style à un autre. Par exemple, il peut donner l'impression qu'une photo d'un port a été peinte par Monet ou donner l'impression qu'une photo de montagnes prise en été a été prise en hiver.

JUN-YAN ZHU ET TAESUNG PARK ET AL.

L'équipe McAfee a utilisé 1 500 photos de chacune des deux pistes du projet et a introduit les images dans un CycleGAN pour les transformer l'une en l'autre. En même temps, ils ont utilisé l'algorithme de reconnaissance faciale pour vérifier les images générées par CycleGAN pour voir qui il reconnaissait. Après avoir généré des centaines d'images, le CycleGAN a finalement créé une fausse image qui ressemblait à la personne A à l'œil nu, mais a trompé la reconnaissance faciale en lui faisant croire qu'il s'agissait de la personne B.

MCAFEE

Bien que l'étude soulève des inquiétudes claires quant à la sécurité des systèmes de reconnaissance faciale, il y a quelques mises en garde. Premièrement, les chercheurs n'avaient pas accès au système réel utilisé par les aéroports pour identifier les passagers et l'ont plutôt approché avec un algorithme open source à la pointe de la technologie. Je pense que pour un attaquant, ce sera la partie la plus difficile à surmonter, dit Povolny, où [ils] n'ont pas accès au système cible. Néanmoins, étant donné les grandes similitudes entre les algorithmes de reconnaissance faciale, il pense qu'il est probable que l'attaque fonctionnerait même sur le système aéroportuaire réel.

Comment fonctionnent les GAN

• Réseaux antagonistes génératifs sont une classe d'algorithmes qui opposent intelligemment les réseaux de neurones les uns aux autres pour générer de meilleurs résultats.

  Dans un GAN traditionnel, il n'y a que deux réseaux : un générateur qui s'entraîne sur un ensemble de données, disons un paysage d'été, pour recracher plus de paysages d'été ; et un discriminateur qui compare les paysages générés au même ensemble de données pour décider s'ils sont réels ou faux.

  CycleGAN modifie ce processus en ayant deux générateurs et deux discriminateurs. Il existe également deux séries d'images, telles que des paysages d'été et paysages d'hiver, représentant les types de photos entre lesquels vous souhaitez traduire.

  Cette fois, le premier générateur s'entraîne sur des images des paysages d'été dans le but d'essayer de générer des paysages d'hiver. Le deuxième générateur, quant à lui, s'entraîne sur les images des paysages hivernaux pour générer celles de l'été. Les deux discriminateurs travaillent à nouveau dur pour attraper le faux jusqu'à ce que les paysages truqués soient impossibles à distinguer des vrais.

  
  
  

Deuxièmement, aujourd'hui, une telle attaque nécessite beaucoup de temps et de ressources. Les CycleGAN ont besoin d'ordinateurs puissants et d'expertise pour s'entraîner et s'exécuter.

Mais les systèmes de reconnaissance faciale et le contrôle automatisé des passeports sont de plus en plus utilisés pour la sécurité des aéroports dans le monde entier, un changement qui a été accéléré par la pandémie de covid-19 et le désir de systèmes sans contact. La technologie est également déjà largement utilisée par les gouvernements et les entreprises dans des domaines tels que forces de l'ordre , embauche , et sécurité des événements — bien que de nombreux groupes aient réclamé une moratoire sur de tels développements , et certaines villes ont interdit la technologie .

Il existe d'autres tentatives techniques pour subvertir la reconnaissance faciale. Une équipe de l'Université de Chicago a récemment publié Fumseck , un outil destiné à masquer les visages en modifiant légèrement vos photos sur les réseaux sociaux afin de tromper les systèmes d'intelligence artificielle reposant sur des bases de données grattées de milliards de ces images. Des chercheurs de la firme d'IA Kneron ont également montré comment les masques peuvent tromper les systèmes de reconnaissance faciale déjà utilisés dans le monde.

Les chercheurs de McAfee affirment que leur objectif est en fin de compte de démontrer les vulnérabilités inhérentes à ces systèmes d'IA et de préciser que les êtres humains doivent rester au courant.

L'IA et la reconnaissance faciale sont des outils incroyablement puissants pour faciliter l'identification et l'autorisation des personnes, déclare Povolny. Mais lorsque vous les prenez et remplacez aveuglément un système existant qui repose entièrement sur un humain sans avoir une sorte de contrôle secondaire, alors vous avez tout d'un coup introduit peut-être une plus grande faiblesse qu'auparavant.

cacher