Fatal Tesla Autopilot Crash est un rappel que les voitures autonomes vont parfois foirer

Plus de 30 000 personnes sont tué par des voitures aux États-Unis chaque année, et les personnes travaillant sur la technologie de conduite autonome dans des entreprises telles que Google et Tesla affirment que toute technologie susceptible de réduire considérablement ce chiffre mérite une attention particulière.

Mais même si les voitures automatisées peuvent être beaucoup plus sûres que les voitures conventionnelles, elles seront toujours impliquées dans des accidents. Aucun logiciel ne peut être parfait. Et à mesure que la technologie de conduite autonome mûrit, les régulateurs et la société dans son ensemble devront décider à quel point ces véhicules doivent être sûrs. En effet, il a été avancé que dans certaines situations, les véhicules autonomes doivent être programmés pour choisir activement les personnes à blesser .

Ces questions épineuses sont devenues plus concrètes aujourd'hui avec la nouvelle que Tesla fait l'objet d'une enquête par la National Highway Traffic Safety Administration des États-Unis après une accident mortel impliquant la fonction de conduite automatisée Autopilot de l'entreprise , qui peut faire des choses comme changer de voie et ajuster la vitesse pendant la conduite sur autoroute pour certaines des voitures de l'entreprise.

La berline Model S de Tesla Motors.

En Floride en mai, une berline Tesla Model S conduit dans un semi-remorque traversant la route devant alors que le pilote automatique contrôlait la voiture. Ni la fonction de pilote automatique de Tesla ni le conducteur n'ont appliqué les freins de la voiture. Dans un article de blog jeudi, Tesla a déclaré que Le pilote automatique n'a pas enregistré le côté blanc de la remorque contre le ciel lumineux .

Le pilote automatique de Tesla peut diriger la voiture, détecter les obstacles et les marquages ​​au sol et utiliser les freins, tout seul. Mais il est beaucoup moins capable qu'un conducteur humain et n'a pas la sophistication et les capteurs très détaillés que l'on voit dans des projets de voitures autonomes plus matures comme celui de Google.

Tesla a été critiqué pour avoir promu la commodité du pilote automatique - un nom qui suggère qu'aucune intervention humaine n'est nécessaire - tout en affirmant que les conducteurs doivent constamment être prêts à prendre le relais du logiciel. Le chef du projet de voiture autonome de Google, Chris Urmson, a déclaré que les expériences de son entreprise ont prouvé qu'on ne peut pas compter sur les humains pour faire cela, car ils en viennent rapidement à croire que la voiture sait ce qu'elle fait. Tout de même, le PDG de Tesla, Elon Musk, a déclaré que les données de son entreprise suggéraient Le pilote automatique est deux fois plus sûr que les conducteurs humains .

Nous ne savons pas encore exactement ce qui s'est passé lors de l'accident mortel de May. La déclaration de Tesla souligne que le conducteur savait qu'il devait toujours garder un œil sur ce que faisait le pilote automatique. Mais si la NHTSA trouve la conception du pilote automatique à blâmer, Tesla pourrait être obligée d'émettre un rappel, ou pourrait penser qu'elle doit réduire la fonctionnalité. Cela pourrait nuire à la fois à Tesla et à l'enthousiasme pour la technologie en général.

Quel que soit le résultat de l'enquête de la NHTSA, l'incident est l'occasion d'examiner les normes auxquelles nous tenons les logiciels de conduite autonome et les entreprises qui les conçoivent. Pour être largement utilisé, il faudra accepter qu'il soit impliqué dans des accidents, certains mortels, d'autres causés par ses propres défaillances.

Les conducteurs humains fixent la barre basse : environ 90 % des accidents sont causés par une erreur humaine, et des erreurs stupides comme conduire en envoyant des SMS ou en état d'ébriété tuent beaucoup trop de personnes. Il est facile de voir comment les machines pourraient améliorer cela. Mais décider à quel point ils doivent être meilleurs sera beaucoup plus difficile.

cacher