211service.com
Comment aider les voitures autonomes à prendre des décisions éthiques
Un philosophe est peut-être la dernière personne à qui vous vous attendez à participer à la conception de votre prochaine voiture, mais c'est exactement ce que pense un expert des véhicules autonomes.
Chris Gerdes , professeur à l'Université de Stanford, dirige un laboratoire de recherche qui expérimente du matériel et des logiciels sophistiqués pour la conduite automatisée. Mais avec Patrick Lin , professeur de philosophie à Cal Poly, il explore également les dilemmes éthiques qui peuvent survenir lorsque la conduite autonome de véhicules est déployée dans le monde réel.
Gerdes et Lin ont organisé un atelier à Stanford plus tôt cette année qui a réuni des philosophes et des ingénieurs pour discuter de la question. Ils ont mis en place différents paramètres éthiques dans le logiciel qui contrôle les véhicules automatisés, puis ont testé le code dans des simulations et même dans des véhicules réels. De tels paramètres pourraient, par exemple, dire à une voiture de donner la priorité à éviter les humains plutôt qu'à éviter les véhicules en stationnement, ou de ne pas dévier pour les écureuils.
Illustration par Victor Kerlow
Les véhicules entièrement autonomes en sont encore au stade de la recherche, mais la technologie de conduite automatisée se glisse rapidement dans les véhicules. Au cours des deux prochaines années, un certain nombre de constructeurs automobiles prévoient de commercialiser des véhicules capables de diriger, d'accélérer et de freiner par eux-mêmes sur les autoroutes pendant de longues périodes. Certaines voitures sont déjà équipées de capteurs capables de détecter les piétons ou les cyclistes et d'avertir les conducteurs s'il semble qu'ils risquent de heurter quelqu'un.
Jusqu'à présent, les voitures autonomes ont été impliquées dans très peu d'accidents. Les voitures automatisées de Google ont parcouru près d'un million de kilomètres de route avec seulement quelques voitures à l'arrière, et ces véhicules font généralement face à des situations incertaines en s'arrêtant simplement (voir Google's Self-Driving Car Chief Defends Safety Record ).
Cependant, à mesure que la technologie progresse et que les voitures deviennent capables d'interpréter des scènes plus complexes, les systèmes de conduite automatisés peuvent avoir besoin de prendre des décisions en une fraction de seconde qui soulèvent de véritables questions éthiques.
Lors d'un récent événement de l'industrie, Gerdes a donné un exemple d'un tel scénario : un enfant se précipitant soudainement sur la route, forçant la voiture autonome à choisir entre heurter l'enfant ou faire une embardée dans une camionnette venant en sens inverse.
Comme nous le voyons avec des yeux humains, l'un de ces obstacles a beaucoup plus de valeur que l'autre, a déclaré Gerdes. Quelle est la responsabilité de la voiture ?
Gerdes a souligné qu'il pourrait même être éthiquement préférable de mettre en danger les passagers de la voiture autonome. Si cela évitait l'enfant, si cela lui sauvait la vie, pourrions-nous blesser l'occupant du véhicule? Ce sont des décisions très difficiles auxquelles sont confrontés tous les jours ceux qui conçoivent des algorithmes de contrôle pour les véhicules automatisés, a-t-il déclaré.
Gerdes a appelé les chercheurs, les ingénieurs automobiles et les dirigeants de l'automobile présents à l'événement à se préparer à examiner les implications éthiques de la technologie qu'ils développent. Vous n'allez pas simplement aller chercher le module d'éthique et le brancher sur votre voiture autonome, a-t-il dit.
D'autres experts s'accordent à dire qu'il y aura une dimension éthique importante dans le développement de la technologie de conduite automatisée.
Lorsque vous demandez à une voiture de prendre une décision, vous êtes confronté à un dilemme éthique, explique Adriano Alessandrini, chercheur travaillant sur les véhicules automatisés à l'Université de Roma La Sapienza, en Italie. Vous pourriez voir quelque chose sur votre chemin, et vous décidez de changer de voie, et ce faisant, quelque chose d'autre se trouve dans cette voie. C'est donc un dilemme éthique.
Alessandrini dirige un projet appelé CityMobil2 , qui teste des véhicules de transport en commun automatisés dans différentes villes italiennes. Ces véhicules sont beaucoup plus simples que les voitures développées par Google et de nombreux constructeurs automobiles ; ils suivent simplement un itinéraire et freinent si quelque chose les gêne. Alessandrini pense que cela pourrait faciliter le lancement de la technologie. Nous n'avons pas ce problème [éthique], dit-il.
D'autres pensent que la situation est un peu plus compliquée. Par example, Bryant Walker Smith , professeur adjoint à l'Université de Caroline du Sud qui étudie les implications juridiques et sociales des véhicules autonomes, affirme que de nombreuses décisions éthiques sont déjà prises dans l'ingénierie automobile. Éthique, philosophie, droit : toutes ces hypothèses sous-tendent tant de décisions, dit-il. Si vous regardez les airbags, par exemple, l'hypothèse inhérente à cette technologie est que vous allez sauver beaucoup de vies et n'en tuer que quelques-unes.
Walker-Smith ajoute que, compte tenu du nombre d'accidents de la circulation mortels impliquant une erreur humaine aujourd'hui, il pourrait être considéré comme contraire à l'éthique d'introduire trop lentement la technologie de conduite autonome. La plus grande question éthique est de savoir à quelle vitesse nous agissons. Nous avons une technologie qui pourrait potentiellement sauver beaucoup de gens, mais qui sera imparfaite et qui tuera.