Des hackers trompent une Tesla pour qu'elle vire dans la mauvaise voie

Catégorie: Intelligence artificielle Posté 01 avril

Les pirates ont démontré quelques façons inquiétantes de manipuler et de confondre les différents systèmes d'une Tesla Model S. Leur exploit le plus spectaculaire : envoyer la voiture dans la voie de circulation en sens inverse en plaçant une série de petits autocollants sur la route.

Vecteur d'attaque : Ceci est un exemple d'attaque contradictoire, une façon de manipuler un modèle d'apprentissage automatique en alimentant une entrée spécialement conçue. Les attaques contradictoires pourraient devenir plus courantes à mesure que l'apprentissage automatique est utilisé plus largement, en particulier dans des domaines tels que la sécurité des réseaux.

Lignes floues: Le pilote automatique de Tesla est vulnérable car il reconnaît les voies à l'aide de la vision par ordinateur. En d'autres termes, le système s'appuie sur les données de la caméra, analysées par un réseau de neurones, pour indiquer au véhicule comment rester centré dans sa voie.

Embouteillage : Ce n'est pas la première attaque contradictoire contre un système de conduite autonome. Dawn Song, professeur à l'UC Berkeley, a utilisé des autocollants d'apparence inoffensive pour tromper une voiture autonome en lui faisant croire qu'un panneau d'arrêt était une limite de vitesse à 45 miles par heure. Une autre étudier , publié en mars, a démontré comment les systèmes d'apprentissage automatique médical peuvent également être amenés à donner les mauvais diagnostics.

Corrections de bogues : Les chercheurs à l'origine du hack de reconnaissance de voies, depuis le Laboratoire de sécurité Keen du géant chinois de la technologie Tencent, a utilisé une attaque similaire pour perturber les essuie-glaces automatiques du véhicule. Ils ont également détourné le volant de la voiture en utilisant une autre méthode. Un porte-parole de Tesla dit Forbes que cette dernière vulnérabilité a été corrigée dans sa dernière mise à jour logicielle. Le porte-parole a déclaré que l'attaque contradictoire était irréaliste étant donné qu'un conducteur peut facilement remplacer le pilote automatique à tout moment.