Le haut responsable de la sécurité ne fait pas confiance aux constructeurs automobiles pour enseigner l'éthique aux voitures autonomes

Les progrès rapides de la conduite autonome ont suscité des inquiétudes quant au fait que les futurs véhicules devront faire des choix éthiques, par exemple s'il faut dévier pour éviter un accident si cela causerait de graves dommages aux personnes à l'extérieur du véhicule.

Christopher Hart, président du National Transportation Safety Board, est l'un d'entre eux. Il a dit Examen de la technologie MIT que des réglementations fédérales seront nécessaires pour établir la morale de base des véhicules autonomes, ainsi que des normes de sécurité quant à leur fiabilité.

Hart a déclaré que la National Highway Traffic Safety Administration (NHTSA) exigera probablement que les concepteurs de voitures autonomes intègrent des dispositifs de sécurité pour les composants critiques de leurs véhicules, comme le font les constructeurs d'avions.

Un prototype de voiture autonome Mercedes-Benz.

Le gouvernement va devoir entrer en jeu et dire: 'Vous devez me montrer une probabilité d'échec inférieure à X, ou vous devez me montrer une sécurité intégrée qui garantit que cet échec ne tuera pas les gens', a déclaré Hart .

Hart a également déclaré qu'il faudrait des règles sur la manière dont les prérogatives éthiques sont encodées dans les logiciels. Il a donné l'exemple d'une voiture autonome confrontée à une décision entre une collision potentiellement mortelle avec un camion incontrôlable ou se diriger sur le trottoir et heurter des piétons. Pour moi, cela va nécessiter une réponse du gouvernement fédéral, a déclaré Hart. Ce genre de choix éthiques sera inévitable.

Cette NHTSA a évalué la manière dont elle réglementera les voitures sans conducteur au cours des huit derniers mois et publiera des orientations dans un proche avenir. L'agence n'a pas encore discuté des préoccupations éthiques concernant la conduite automatisée.

La réglementation existante pour les voitures autonomes provient d'États tels que la Californie et vise les prototypes de véhicules testés par des sociétés telles qu'Alphabet et Uber. La Californie exige qu'un conducteur de sécurité soit toujours prêt à prendre le relais, et qu'un dossier d'entreprise rapporte en détail les incidents où un humain a dû intervenir.

Ryan Calo , expert en droit de la robotique à l'Université de Washington, est sceptique quant à la possibilité de traduire les discussions éthiques théoriques jusqu'à présent en règles pratiques ou en conceptions de systèmes. Il ne pense pas que les voitures autonomes soient suffisamment sophistiquées pour comprendre les différents facteurs qu'un humain aurait dans une situation réelle.

Calo pense que le véritable dilemme est de savoir si nous sommes prêts à déployer des véhicules qui empêcheront de nombreux accidents, mais qui feront également des erreurs mortelles occasionnelles qu'aucun humain ne ferait. S'il rencontre un caddie et une poussette en même temps, il ne sera pas en mesure de prendre une décision morale selon laquelle l'épicerie est moins importante que les gens, dit Calo. Mais que se passe-t-il si cela sauve des dizaines de milliers de vies parce qu'il est plus sûr que les gens ?

Patrick Lin , professeur de philosophie à la Cal Poly State University, San Luis Obispo, qui a étudié l'éthique et la conduite autonome avec la branche à but non lucratif de Daimler-Benz, affirme que l'idée de voitures faisant des délibérations éthiques ne devrait pas être si rapidement rejetée. Les progrès des capteurs, de l'intelligence artificielle et des logiciels de reconnaissance faciale conduiront probablement à des voitures capables de décider de sauver une vie et d'en sacrifier une autre, dit-il.

C'est mieux si nous essayons de manière proactive d'anticiper et de gérer le problème avant d'y arriver, dit Lin. C'est le genre de chose qui va faire un procès qui pourrait détruire une entreprise ou laisser une énorme marque noire sur l'industrie.

Les normes fédérales en matière d'éthique ou d'autres aspects de sécurité pourraient également apporter une certaine transparence sur la façon dont les voitures sans conducteur prennent des décisions. Lin dit que les constructeurs automobiles veulent généralement garder le fonctionnement interne du logiciel de leurs véhicules secret des pirates et des concurrents. Les constructeurs automobiles sont notoirement secrets sur leur programmation et leur réflexion sur l'optimisation des collisions, dit-il.

cacher