Les pirates sont le véritable obstacle pour les véhicules autonomes

Espen Friberg

Avant que les camions et les taxis autonomes ne prennent la route, les constructeurs devront résoudre des problèmes bien plus complexes que l'évitement des collisions et la navigation (voir 10 Breakthrough Technologies 2017 : Self-Driving Trucks).

Ces véhicules devront anticiper et se défendre contre un éventail complet d'attaquants malveillants utilisant à la fois des cyberattaques traditionnelles et une nouvelle génération d'attaques basées sur ce que l'on appelle l'apprentissage automatique contradictoire (voir AI Fight Club pourrait nous aider à nous sauver d'un avenir de cyberattaques super intelligentes ). Alors que le consensus grandit sur le fait que les véhicules autonomes sont à quelques années d'être déployés dans les villes en tant que taxis robotisés et sur les autoroutes pour atténuer l'ennui abrutissant du camionnage long-courrier, ce risque d'attaque a été largement absent de la couverture haletante.

Cela me rappelle de nombreux articles faisant la promotion du courrier électronique au début des années 1990, avant que le nouveau monde des communications électroniques ne soit inondé de pourriels indésirables. À l'époque, la promesse de l'apprentissage automatique était considérée comme une solution aux problèmes mondiaux de spam. Et en effet, aujourd'hui, le problème du spam est en grande partie résolu, mais il nous a fallu des décennies pour en arriver là.

À ce jour, aucun pirate informatique hostile ciblant des véhicules autonomes n'a été signalé. Ironiquement, cependant, c'est un problème. Il n'y avait pas non plus d'attaquants malveillants lorsque les startups dot-com dans les années 1990 ont développé les premières plates-formes de commerce électronique. Après la première grande série de hacks du commerce électronique, Bill Gates a écrit une note à Microsoft exigeant que l'entreprise prenne la sécurité au sérieux . Résultat : aujourd'hui, Windows est l'un des systèmes d'exploitation les plus sécurisés, et Microsoft dépense plus d'un milliard de dollars par an pour la cybersécurité . Néanmoins, les pirates continuent de trouver des problèmes avec les systèmes d'exploitation Windows, les navigateurs Web et les applications.

Les constructeurs automobiles connaîtront probablement une progression similaire. Après avoir été largement embarrassés par leur incapacité à prendre en compte la sécurité - le bus CAN, conçu dans les années 1980, n'a aucun concept d'authentification - ils semblent désormais être attentifs. Lorsque les pirates ont démontré que les véhicules sur les routes étaient vulnérables à plusieurs menaces de sécurité spécifiques, les constructeurs automobiles ont réagi en rappelant et en mettant à jour le micrologiciel de millions de voitures. En juillet dernier, la PDG de GM, Mary Barra, a déclaré que la protection des voitures contre un incident de cybersécurité est une question de sécurité publique.

Mais les efforts déployés à ce jour risquent de passer à côté de la prochaine tendance en matière de sécurité. Les systèmes de vision par ordinateur et d'évitement des collisions en cours de développement pour les véhicules autonomes reposent sur des algorithmes complexes d'apprentissage automatique qui ne sont pas bien compris, même par les entreprises qui en dépendent (voir The Dark Secret at the Heart of AI).

Chercheurs en dernière année à la CMU démontré que les algorithmes de reconnaissance faciale de pointe pourraient être vaincus en portant une paire de lunettes transparentes avec un motif funky imprimé sur leurs montures. Quelque chose dans le modèle a fait basculer l'algorithme dans le bon sens, et il a cru voir ce qui n'était pas là. Nous avons montré que les attaquants peuvent échapper aux algorithmes de reconnaissance faciale de pointe basés sur des réseaux de neurones dans le but de se faire passer pour une personne cible, ou simplement d'être identifiés de manière incorrecte, a écrit le chercheur principal Mahmood Sharif dans un e-mail.

L'année dernière également, des chercheurs de l'Université de Caroline du Sud, de l'Université chinoise du Zhejiang et de la société de sécurité chinoise Qihoo 360 démontré que ils pourraient bloquer divers capteurs sur une Tesla S, rendant les objets invisibles à son système de navigation.

De nombreux articles récents sur la conduite autonome minimisent ou même ignorent l'idée qu'il pourrait y avoir des adversaires actifs, adaptatifs et malveillants essayant de faire planter les véhicules. Dans une interview avec Examen de la technologie MIT , le président du National Transportation Safety Board, Christopher Hart, a déclaré qu'il était très optimiste quant au fait que les voitures autonomes réduiraient le nombre d'accidents sur les routes du pays. En discutant des problèmes de sécurité, Hart s'est concentré sur la nécessité de programmer les véhicules pour prendre des décisions éthiques, par exemple, lorsqu'un camion de 80 000 livres bloque soudainement le passage d'une voiture.

Pourquoi quelqu'un voudrait-il pirater une voiture autonome, sachant que cela pourrait entraîner la mort ? L'une des raisons est que le déploiement généralisé des véhicules autonomes va se traduire par de nombreux chômeurs, et certains d'entre eux vont être en colère.

En août 2016, le PDG de Ford, Mark Fields dit que il prévoyait d'avoir des véhicules entièrement autonomes fonctionnant comme des taxis urbains d'ici 2021. Google, Nissan et d'autres prévoyaient d'avoir des voitures autonomes similaires sur les routes dès 2020. Ces taxis ou véhicules de livraison automatisés pourraient être vulnérables à être éblouis par un haut -pointeur laser de puissance par un Teamster sans travail, un ancien chauffeur Uber qui a encore des paiements de voiture à effectuer, ou juste une meute d'adolescents ennuyés.

Interrogée sur ses plans pour faire face à la menace de l'apprentissage automatique contradictoire, Sarah Abboud, porte-parole d'Uber, a répondu : Notre équipe d'experts en sécurité explore constamment de nouvelles défenses pour l'avenir des véhicules autonomes, notamment l'intégrité des données et la détection des abus. Cependant, à mesure que la technologie autonome évolue, le modèle de menace évolue également, ce qui signifie que certains des problèmes de sécurité actuels seront probablement différents de ceux traités dans un environnement véritablement autonome.

Il suffira de quelques accidents pour stopper le déploiement des véhicules sans conducteur. Cela n'entravera probablement pas les systèmes de pilotage automatique avancés, mais cela sera probablement un moyen de dissuasion considérable pour le déploiement de véhicules entièrement autonomes.

Simon Garfinkel est un écrivain scientifique vivant à Arlington, en Virginie. Il travaille sur un nouveau livre sur l'histoire de l'informatique.

cacher