211service.com
Un logiciel intelligent peut être trompé pour voir ce qui n'y est pas
Une technique appelée apprentissage en profondeur a permis à Google et à d'autres entreprises de faire des percées en permettant aux ordinateurs de comprendre le contenu des photos. Aujourd'hui, des chercheurs de l'Université Cornell et de l'Université du Wyoming ont montré comment créer des images qui dupent ces logiciels voir des choses qui n'existent pas .
Des images comme celles-ci ont été créées pour tromper les algorithmes d'apprentissage automatique. Le logiciel considère chaque motif comme l'un des chiffres de 1 à 5.
Les chercheurs peuvent créer des images qui apparaissent à un humain comme des bêtises brouillées ou de simples motifs géométriques, mais sont identifiées par le logiciel comme un objet du quotidien tel qu'un autobus scolaire. Les images astucieuses offrent un nouvel aperçu des différences entre la façon dont les cerveaux réels et les simples neurones simulés utilisés dans les images de processus d'apprentissage en profondeur.
Les chercheurs forment généralement un logiciel d'apprentissage en profondeur pour reconnaître quelque chose d'intéressant, par exemple une guitare, en lui montrant des millions d'images de guitares, en disant à chaque fois à l'ordinateur Ceci est une guitare. Après un certain temps, le logiciel peut identifier des guitares dans des images qu'il n'a jamais vues auparavant, attribuant à sa réponse une cote de confiance. Cela peut donner une cote de confiance élevée à une guitare affichée seule sur un fond blanc, et une cote de confiance plus faible à une guitare vue en arrière-plan d'une image granuleuse encombrée (voir 10 Breakthrough Technologies 2013 : Deep Learning ).
Cette approche a des applications précieuses telles que la reconnaissance faciale ou l'utilisation de logiciels pour traiter les images des caméras de sécurité ou de circulation, par exemple pour mesurer les flux de trafic ou repérer les activités suspectes.
Mais bien que les fonctions mathématiques utilisées pour créer un réseau neuronal artificiel soient comprises individuellement, la façon dont elles fonctionnent ensemble pour déchiffrer les images est inconnue. Nous comprenons qu'ils fonctionnent, mais pas comment ils fonctionnent, dit Jeff Cluné , professeur adjoint d'informatique à l'Université du Wyoming. Ils peuvent apprendre à faire des choses que nous ne pouvons même pas apprendre à faire nous-mêmes.
Ces images semblent abstraites pour les humains, mais sont vues par l'algorithme de reconnaissance d'image qu'elles ont été conçues pour tromper comme les objets décrits dans les étiquettes.
Pour jeter un nouvel éclairage sur le fonctionnement de ces réseaux, le groupe de Clune a utilisé un réseau de neurones appelé AlexNet qui a obtenu des résultats impressionnants en matière de reconnaissance d'images. Ils l'ont fait fonctionner à l'envers, en demandant à une version du logiciel sans connaissance des guitares de créer une image d'un, en générant des pixels aléatoires sur une image.
Les chercheurs ont demandé à une seconde version du réseau qui avait été entraînée à repérer les guitares de noter les images réalisées par le premier réseau. Cette cote de confiance a été utilisée par le premier réseau pour affiner sa prochaine tentative de création d'une image de guitare. Après des milliers de tours entre les deux logiciels, le premier réseau a pu créer une image que le second réseau a reconnue comme une guitare avec une confiance de 99 %.
Cependant, pour un être humain, ces images de guitare ressemblaient à des images de télévision colorées ou à des motifs simples. Clune dit que cela montre que le logiciel n'est pas intéressé à reconstituer des détails structurels comme des cordes ou un manche, comme un humain essayant d'identifier quelque chose pourrait l'être. Au lieu de cela, le logiciel semble examiner des relations spécifiques de distance ou de couleur entre les pixels, ou la couleur et la texture globales.
Cela offre un nouvel aperçu du fonctionnement réel des réseaux de neurones artificiels, dit Clune, bien que des recherches supplémentaires soient nécessaires.
Ryan Adams , professeur adjoint d'informatique à Harvard, affirme que les résultats ne sont pas complètement surprenants. Le fait que de vastes zones des images truquées ressemblent à des mers de statique provient probablement de la façon dont les réseaux sont alimentés en images d'entraînement. L'objet d'intérêt n'est généralement qu'une petite partie de la photo et le reste n'a pas d'importance.
Adams souligne également que les recherches de Clune montrent que les humains et les réseaux de neurones artificiels ont certaines choses en commun. Les humains pensent qu'ils voient des objets du quotidien dans des motifs aléatoires, comme les étoiles, depuis des millénaires.
Clune dit qu'il serait possible d'utiliser sa technique pour tromper les algorithmes de reconnaissance d'images lorsqu'ils sont mis à contribution dans des services Web et d'autres produits. Cependant, il serait très difficile de s'en sortir. Par exemple, Google dispose d'algorithmes qui filtrent la pornographie des résultats de son service de recherche d'images. Mais pour créer des images qui le tromperaient, un farceur aurait besoin de connaître des détails importants sur la façon dont le logiciel de Google a été conçu.