Les pirates peuvent tromper une Tesla pour qu'elle accélère de 50 miles par heure

Tesla Model S roulant dans la région de la baie de Californie Tesla

Ne croyez pas les yeux menteurs de votre voiture.

Les pirates ont manipulé plusieurs voitures Tesla pour accélérer de 50 miles par heure. Les chercheurs ont trompé le système de caméra Mobileye EyeQ3 de la voiture en modifiant subtilement un panneau de limitation de vitesse sur le bord d'une route d'une manière qu'une personne qui passe ne remarquerait presque jamais.

Cette manifestation de la société de cybersécurité McAfee est la dernière indication que l'apprentissage automatique contradictoire peut potentiellement détruire les systèmes de conduite autonome, présentant un défi de sécurité pour ceux qui espèrent commercialiser la technologie.

Les systèmes de caméra Mobileye EyeQ3 lisent les panneaux de limitation de vitesse et transmettent ces informations aux fonctions de conduite autonome telles que le régulateur de vitesse automatique de Tesla, ont déclaré Steve Povolny et Shivangee Trivedi de l'équipe Advanced Threat Research de McAfee.

Les chercheurs ont collé un petit autocollant presque imperceptible sur un panneau de limitation de vitesse. La caméra a lu le signe comme 85 au lieu de 35, et lors des tests, le Tesla Model X 2016 et le Model S de cette année-là ont accéléré de 50 miles par heure.

Le panneau de limitation de vitesse modifié indique 85 sur l'affichage tête haute de Tesla. Un porte-parole de Mobileye a minimisé la recherche en suggérant que ce signe inciterait également un humain à lire 85. McAfee

Il s'agit de la dernière d'une montagne croissante de recherches montrant comment les systèmes d'apprentissage automatique peuvent être attaqués et trompés dans des situations potentiellement mortelles.

Au cours d'un processus de recherche de 18 mois, Trivedi et Povolny ont reproduit et développé une multitude d'attaques d'apprentissage automatique contradictoires, y compris une étude du professeur Dawn Song de l'UC Berkeley qui a utilisé des autocollants pour tromper une voiture autonome en lui faisant croire qu'un panneau d'arrêt était un panneau de limitation de vitesse à 45 milles à l'heure. L'année dernière, des pirates informatiques ont amené une Tesla à virer dans la mauvaise voie dans la circulation en plaçant des autocollants sur la route lors d'une attaque contradictoire destinée à manipuler les algorithmes d'apprentissage automatique de la voiture.

La raison pour laquelle nous étudions cela à l'avance, c'est parce que vous avez des systèmes intelligents qui, à un moment donné dans le futur, effectueront des tâches qui sont maintenant gérées par des humains, a déclaré Povolny. Si nous ne sommes pas très prévoyants quant à la nature des attaques et très attentifs à la conception des systèmes, vous disposez alors d'un parc roulant d'ordinateurs interconnectés qui constituent l'une des surfaces d'attaque les plus percutantes et les plus attrayantes.

Alors que les systèmes autonomes prolifèrent, le problème s'étend aux algorithmes d'apprentissage automatique bien au-delà des véhicules : A mars 2019 étudier ont montré des systèmes d'apprentissage automatique médicaux trompés en donnant de mauvais diagnostics.

La recherche McAfee a été divulguée à Tesla et à Mobileye EyeQ3 l'année dernière. Tesla n'a pas répondu à une demande de commentaire du MIT Technology Review, mais a reconnu les conclusions de McAfee et a déclaré que les problèmes ne seraient pas résolus dans cette génération de matériel. Un porte-parole de Mobileye a minimisé l'importance de la recherche en suggérant que le signe modifié inciterait même un humain à lire 85 au lieu de 35. La société ne considère pas que tromper la caméra est une attaque, et malgré le rôle que joue la caméra dans le régulateur de vitesse de Tesla, il n'a pas été conçu pour la conduite autonome.

La technologie des véhicules autonomes ne reposera pas uniquement sur la détection, mais sera également soutenue par diverses autres technologies et données, telles que la cartographie participative, pour garantir la fiabilité des informations reçues des capteurs de la caméra et offrir des redondances et une sécurité plus robustes, le porte-parole de Mobileye dit dans un communiqué.

Tesla est depuis passé à des caméras propriétaires sur des modèles plus récents, et Mobileye EyeQ3 a publié plusieurs nouvelles versions de ses caméras qui, lors des tests préliminaires, n'étaient pas sensibles à cette attaque exacte.

Il existe encore un nombre important de voitures Tesla fonctionnant avec le matériel vulnérable, a déclaré Povolny. Il a souligné que Teslas avec la première version du matériel ne peut pas être mis à niveau vers un matériel plus récent.

Ce que nous essayons de faire, c'est que nous essayons vraiment de sensibiliser les consommateurs et les vendeurs aux types de défauts possibles, a déclaré Povolny. Nous n'essayons pas de semer la peur et de dire que si vous conduisez cette voiture, elle accélérer à travers une barrière, ou pour la sensationnaliser.

cacher