Comment se cacher de l'état de surveillance de l'IA avec une impression couleur

Catégorie: Intelligence artificielle Posté 23 avril

La technologie vidéo alimentée par l'IA devient omniprésente, suivant nos visages et nos corps dans les magasins, les bureaux et les espaces publics. Dans certains pays, la technologie constitue une nouvelle couche puissante de police et de surveillance gouvernementale.

Heureusement, comme certains chercheurs de l'université belge KU Leuven viennent de montrer , vous pouvez souvent vous cacher d'un système vidéo AI à l'aide d'une simple impression couleur.

Qui a dit ça? Les chercheurs ont montré que l'image qu'ils ont conçue peut cacher une personne entière à un système de vision par ordinateur alimenté par l'IA. Ils l'ont démontré sur un système de reconnaissance d'objets open source populaire appelé YoLo(v2) .

Cache-cache: L'astuce pourrait éventuellement permettre aux escrocs de se cacher des caméras de sécurité ou offrir aux dissidents un moyen d'esquiver l'examen du gouvernement. Ce que notre travail prouve, c'est qu'il est possible de contourner les systèmes de surveillance par caméra en utilisant des correctifs contradictoires, dit Wiebe Van Ranst , un des auteurs.

Foutez le camp: Van Ranst dit qu'il ne devrait pas être trop difficile d'adapter l'approche aux systèmes de vidéosurveillance prêts à l'emploi. Pour le moment, nous devons également savoir quel détecteur est utilisé. Ce que nous aimerions faire à l'avenir, c'est générer un correctif qui fonctionne sur plusieurs détecteurs en même temps, a-t-il déclaré au MIT Technology Review. Si cela fonctionne, il y a de fortes chances que le patch fonctionne également sur le détecteur utilisé dans le système de surveillance.

Course d'imbécile : La tromperie démontrée par l'équipe belge exploite ce que l'on appelle l'apprentissage automatique contradictoire. La plupart des visions par ordinateur reposent sur la formation d'un réseau neuronal (convolutif) pour reconnaître différentes choses en lui fournissant des exemples et en ajustant ses paramètres jusqu'à ce qu'il classe correctement les objets. En introduisant des exemples dans un réseau de neurones profonds formé et en surveillant la sortie, il est possible de déduire quels types d'images confondent ou trompent le système.

Des yeux partout : Le travail est important car l'IA se retrouve de plus en plus dans les caméras et les logiciels de surveillance du quotidien. Il est même utilisé pour éviter le besoin d'une ligne de paiement dans certains magasins expérimentaux, y compris ceux exploités par Amazon. Et en Chine, la technologie apparaît comme un nouveau moyen puissant d'attraper les criminels ainsi que, plus troublant, suivi de certains groupes ethniques .