Une nouvelle façon de former les systèmes d'IA pourrait les protéger des pirates informatiques

Catégorie: Intelligence artificielle Posté 10 juil.

Le contexte: L'un des plus grands défauts non résolus de l'apprentissage en profondeur est sa vulnérabilité aux soi-disant attaques contradictoires . Lorsqu'elles sont ajoutées à l'entrée d'un système d'IA, ces perturbations, apparemment aléatoires ou indétectables à l'œil humain, peuvent complètement déraper. Des autocollants stratégiquement placés sur un panneau d'arrêt, par exemple, peuvent inciter une voiture autonome à voir un panneau de limitation de vitesse à 45 miles par heure, tandis que des autocollants sur une route peuvent confondre une Tesla en virant dans la mauvaise voie.

Critique de sécurité : La plupart des recherches contradictoires se concentrent sur les systèmes de reconnaissance d'images, mais les images basées sur l'apprentissage en profondeur reconstruction les systèmes sont également vulnérables. Ceci est particulièrement troublant dans les soins de santé, où ces derniers sont souvent utilisés pour reconstruire des images médicales comme des tomodensitogrammes ou des IRM à partir de données radiographiques. Une attaque adverse ciblée pourrait amener un tel système à reconstruire une tumeur dans un scanner où il n'y en a pas.

La recherche: Bo Li (nommée cette année parmi les innovateurs de moins de 35 ans du MIT Technology Review) et ses collègues de l'Université de l'Illinois à Urbana-Champaign proposent maintenant une nouvelle méthode pour former ces systèmes d'apprentissage en profondeur afin qu'ils soient plus infaillibles et donc dignes de confiance dans les scénarios critiques pour la sécurité. Ils opposent le réseau de neurones responsable de la reconstruction de l'image à un autre réseau de neurones chargé de générer des exemples contradictoires, dans un style similaire à Algorithmes GAN . Grâce à des cycles itératifs, le réseau contradictoire tente de tromper le réseau de reconstruction en produisant des choses qui ne font pas partie des données d'origine ou de la vérité de terrain. Le réseau de reconstruction s'adapte en permanence pour éviter d'être trompé, ce qui le rend plus sûr à déployer dans le monde réel.

Les résultats: Lorsque les chercheurs ont testé leur réseau de neurones formé de manière contradictoire sur deux ensembles de données d'images populaires, il a été en mesure de reconstruire la vérité terrain mieux que d'autres réseaux de neurones qui avaient été infaillibles avec différentes méthodes. Cependant, les résultats ne sont toujours pas parfaits, ce qui montre que la méthode doit encore être affinée. Les travaux seront présentés la semaine prochaine au Conférence internationale sur l'apprentissage automatique . (Lisez l'algorithme de cette semaine pour obtenir des conseils sur la façon dont je navigue dans des conférences sur l'IA comme celle-ci.)