Comment transformer un chien en voiture ? Modifier un seul pixel.

Catégorie: Non classé Posté 30 octobre

Merci à une nouvelle approche de l'usurpation d'IA de reconnaissance d'images, développée par une équipe de l'Université de Kyushu au Japon, pour cette blague.

Essayer d'attraper les IA est un passe-temps populaire pour de nombreux chercheurs, et nous avons signalé des parodies d'apprentissage automatique dans le passé. L'approche générale consiste à ajouter des fonctionnalités aux images qui déclencheront de manière incorrecte un réseau de neurones et à lui faire identifier ce qu'il considère comme quelque chose d'entièrement différent.

La nouvelle recherche, publié sur l'arXiv , décrit un algorithme capable d'identifier efficacement les meilleurs pixels à modifier afin de confondre une IA en mal étiquetant une image. En changeant un seul pixel dans une image de 1 024 pixels, le logiciel peut tromper une IA environ 74 % du temps. Ce chiffre monte à environ 87% si cinq pixels sont modifiés.

Vous pouvez voir quelques exemples ci-dessus, qui ont usurpé une IA en appelant un avion un chien, une grenouille un camion et un cheval une voiture, entre autres.

Comme la S'inscrire fait remarquer , les images de 1 024 pixels sont sacrément petites, ce qui signifie que des images plus grandes nécessiteraient des centaines de pixels modifiés. Mais la poussée pour faire tomber les IA en utilisant le plus petit nombre de changements possibles est intéressante et inquiétante, dans une égale mesure. Comme nous l'avons expliqué dans le passé, trouver un moyen de protéger les IA de ce genre d'astuces est assez difficile, car nous ne comprenons toujours pas vraiment le fonctionnement interne des réseaux de neurones profonds.

Jusqu'à ce que nous le fassions, de tels hacks seront difficiles à éviter.