Les algorithmes de vision par ordinateur sont encore trop faciles à tromper

Catégorie: Intelligence artificielle Posté 20 décembre

La reconnaissance d'images par IA a fait des progrès étonnants, mais comme le montrent de nouvelles recherches, les systèmes peuvent encore être déclenchés par des exemples qui ne tromperaient jamais une personne.

Labsix, un groupe d'étudiants du MIT qui a récemment trompé un classificateur d'images développé par Google pour penser qu'un La tortue imprimée en 3D était un fusil , a publié un papier le mercredi qui détaille une technique différente qui pourrait tromper les systèmes encore plus rapidement. Cette fois, cependant, ils ont réussi à tromper une boîte noire, où ils n'avaient que des informations partielles sur la façon dont le système prenait des décisions.

Le nouvel algorithme de l'équipe commence par une image qu'il souhaite utiliser pour tromper un autre système - dans l'exemple de leur article, c'est un chien - puis commence à modifier les pixels pour que l'image ressemble davantage à l'image source ; dans ce cas, les skieurs. Pendant qu'il fonctionne, l'algorithme contradictoire défie le système de reconnaissance d'image avec des versions de l'image qui se déplacent rapidement sur un territoire que tout humain reconnaîtrait comme des skieurs (consultez le gif ci-dessus). Mais pendant tout ce temps, l'algorithme maintient la bonne combinaison de pixels sabotés pour faire croire au système qu'il regarde un chien.

Les chercheurs ont testé leur méthode sur l'API Cloud Vision de Google, un bon cas de test en partie parce que Google n'a rien publié sur le fonctionnement du logiciel de vision par ordinateur, ni même sur toutes les étiquettes que le système utilise pour classer les images. L'équipe affirme qu'elle n'a jusqu'à présent essayé de déjouer le système de Google, mais que sa technique devrait également fonctionner sur d'autres systèmes de reconnaissance d'images.

De nombreux chercheurs travaillent sur contrer exemples contradictoires comme celui-ci, mais pour des utilisations critiques pour la sécurité, telles que véhicules autonomes , l'intelligence artificielle ne sera pas digne de confiance tant que les attaques adverses ne seront pas impossibles, ou du moins beaucoup plus difficiles, à réaliser.