Les voitures entièrement autonomes sont peu probables, déclare le plus haut responsable américain de la sécurité des transports

Christophe Hart

Les accidents de voiture tuent plus de 33 000 Américains chaque année, plus que les homicides ou les surdoses de médicaments sur ordonnance. Les entreprises travaillant sur les voitures autonomes, telles qu'Alphabet et Ford, affirment que leur technologie peut réduire ce nombre en supprimant les responsabilités humaines telles que les SMS, l'ivresse et la fatigue. Mais Christophe Hart , président du National Transportation Safety Board, affirme que l'expérience de son agence dans les enquêtes sur les accidents impliquant des systèmes de pilotage automatique utilisés dans les trains et les avions suggère que les humains ne peuvent pas être totalement soustraits au contrôle. Il a dit Examen de la technologie MIT que les futures voitures seront beaucoup plus sûres, mais que certaines auront encore besoin d'humains comme copilotes. Ce qui suit est une transcription condensée.

Dans quelle mesure êtes-vous optimiste sur le fait que les voitures autonomes réduiront le nombre de décès dus aux accidents de la route ?

Je suis très optimiste. Depuis des décennies, nous cherchons des moyens d'atténuer les blessures en cas d'accident. Nous avons des ceintures de sécurité, nous avons des coussins gonflables, nous avons des structures [auto body] plus robustes. À l'heure actuelle, nous avons la possibilité d'empêcher complètement le crash. Et cela va sauver des dizaines de milliers de vies. C'est le point final idéal : aucun plantage.

Les systèmes de pilotage automatique peuvent également créer de nouveaux dangers. Le NTSB a déclaré que la dépendance excessive des pilotes à l'automatisation a causé des accidents . Craignez-vous que ce phénomène soit également un problème pour les voitures ?

Le scénario idéal dont j'ai parlé, sauver des dizaines de milliers de vies par an, suppose une automatisation complète sans aucun engagement humain. Je ne suis pas sûr que nous le ferons jamais atteindre ce point. Je ne vois pas l'idéal de l'automatisation complète venir de sitôt.

Certaines personnes aiment simplement conduire. Certaines personnes ne font pas confiance à l'automatisation et voudront donc conduire. [Et] aucun concepteur de logiciel au monde ne sera jamais assez intelligent pour anticiper toutes les circonstances potentielles que ce logiciel va rencontrer. Le chien qui court dans la rue, la personne qui court dans la rue, le cycliste, le policier ou l'ouvrier du bâtiment. Ou le pont s'effondre dans une inondation. Il est impossible que vous puissiez concevoir un système capable de le gérer.

Le défi est lorsque vous avez une automatisation pas si complète, avec un engagement humain encore important, c'est là que la complaisance devient un problème. C'est alors que le manque de compétences devient le problème. Notre défi est donc : comment gérer ce qui sera probablement un scénario à long terme d'engagement humain dans ce système largement automatisé ?

Le décès récent d'un conducteur utilisant la fonction Autopilot de Tesla peut être un échec de l'automatisation. Pourquoi le NTSB enquête-t-il sur ce crash ?

Nous n'enquêtons pas sur la plupart des accidents de voiture. Ce que nous apportons à cette table, c'est l'expérience [avec] des scénarios d'introduction de l'automatisation dans des systèmes complexes centrés sur l'humain, ce que celui-ci est définitivement. Nous enquêtons sur cet accident parce que nous voyons que l'automatisation arrive dans les voitures et nous aimerions essayer d'aider à éclairer ce processus avec notre expérience avec d'autres types d'automatisation.

Comme quoi?

Eh bien, nous avons enquêté sur un accident de navette dans un aéroport. Il est entré en collision avec un autre déménageur. Et notre enquête a révélé que le problème était un problème de maintenance. Même si vous éliminez l'opérateur, vous avez toujours une erreur humaine de la part des personnes qui l'ont conçu, des personnes qui l'ont construit, des personnes qui l'entretiennent.

Certaines personnes disent que les voitures autonomes devront prendre des décisions éthiques, par exemple décider à qui faire du mal lorsqu'une collision est inévitable. Est-ce un vrai problème ?

Je peux vous donner un exemple que j'ai vu mentionné à plusieurs endroits. Ma voiture automatisée est confrontée à un camion de 80 000 livres dans ma voie. Maintenant, la voiture doit décider si elle percute ce camion et me tue, moi le conducteur, ou monte sur le trottoir et tue 15 piétons. Cela [devrait] être mis dans le système. Protéger les occupants ou protéger les autres ? Pour moi, cela va nécessiter une réponse du gouvernement fédéral. Ce genre de choix éthiques sera inévitable.

En plus des choix éthiques, et si le système échoue ? Le système va-t-il échouer d'une manière qui minimise [les dommages] au public, aux autres voitures, aux cyclistes ? Le gouvernement fédéral va être impliqué.

À quoi pourrait ressembler ce processus ?

La Federal Aviation Administration a un système selon lequel si quelque chose est moins susceptible de se produire qu'un sur un milliard, vous n'avez pas besoin d'avoir un chemin de charge alternatif [une structure de secours pour supporter le poids de l'avion]. Plus probablement que cela et vous avez besoin d'une sécurité intégrée. À moins que vous ne puissiez montrer que le longeron d'aile défaillant - l'aile qui se détache - est inférieur à un sur un milliard, cela risque de se produire. Ensuite, vous devez avoir un plan B.

Ce même processus va devoir se produire avec les voitures. Je pense que le gouvernement va devoir entrer en jeu et dire, vous devez me montrer une probabilité d'échec inférieure à X, ou vous devez me montrer une sécurité intégrée qui garantit que cet échec ne tuera pas les gens. Fixer la limite est quelque chose qui, je pense, relèvera du domaine du gouvernement fédéral, et non du gouvernement des États. Je ne veux pas de 50 limites.

cacher