Le premier décès d’une voiture robot au monde était le résultat d’une erreur humaine – et cela peut se reproduire

Le 20 novembre, le National Transportation Safety Board (NTSB) a publié les résultats de son enquête sur l’accident mortel d’Uber en 2018 à Tempe, en Arizona, qui était largement considéré comme le premier décès au monde par une voiture autonome.

Mais plutôt que de passer les menottes à la voiture robot d’Uber, les enquêteurs ont plutôt souligné les nombreuses erreurs humaines qui ont abouti à la mort d’Elaine Herzberg, 49 ans. Et ils ont lancé un avertissement : cela pourrait se reproduire.

« Si votre entreprise teste des systèmes de conduite automatisée sur la voie publique, cet accident, il vous concernait », a déclaré Robert Sumwalt, président du NTSB, dans sa déclaration d’ouverture de l’audience hier.

Lorsque le conseil a lu à haute voix ses conclusions sur la cause probable de l’accident à Tempe, la première personne à être blâmée a été Rafaela Vasquez, la conductrice de sécurité dans le véhicule au moment de l’accident. Vasquez n’a jamais été appelée par son nom, mais ses échecs en tant que chien de garde du système de conduite automatisée ont été mis en évidence par le NTSB.

Dans les minutes précédant l’impact, Mme Vasquez aurait regardé en streaming un épisode de The Voice sur son téléphone, ce qui constitue une violation de la politique d’Uber interdisant l’utilisation du téléphone. En fait, les enquêteurs ont déterminé qu’elle avait jeté un coup d’œil à son téléphone et détourné la tête de la route pendant plus d’un tiers du temps total qu’elle avait passé dans la voiture jusqu’au moment de l’accident.

L’échec de Vasquez « à surveiller l’environnement de conduite et le fonctionnement du système de conduite automatisée parce qu’elle était visuellement distraite tout au long du trajet par son téléphone portable personnel » a été cité comme la cause principale de l’accident. Mais elle partage la responsabilité avec ses employeurs chez Uber, où une culture de la sécurité terriblement inadéquate a également contribué à la mort de M. Herzberg, a déclaré la commission. De même, le gouvernement fédéral a également sa part de responsabilité pour ne pas avoir mieux réglementé l’exploitation des voitures autonomes.

Image : ABC 15

« A mon avis, ils ont mis l’avancement technologique ici avant de sauver des vies », a déclaré Jennifer Homendy, membre du conseil d’administration du NTSB, au sujet de l’Administration nationale de la sécurité routière (NHTSA), qui est responsable de la réglementation des normes de sécurité des véhicules.

Au moment de l’accident, l’Advanced Technologies Group d’Uber n’avait pas de plan de sécurité d’entreprise ou de document directeur identifiant les rôles et responsabilités de chaque employé pour gérer la sécurité, a déclaré Michael Fox, enquêteur principal sur les accidents de la route au NTSB. L’entreprise ne disposait pas non plus d’une division de la sécurité ni d’un responsable de la sécurité chargé d’évaluer et d’atténuer les risques. Dans les semaines précédant l’accident, Uber a pris la décision fatidique de réduire de deux à un le nombre de conducteurs de sécurité dans chaque véhicule. Cette décision a supprimé une redondance importante qui aurait pu contribuer à prévenir la mort de Herzberg.

Non seulement Vasquez était seule dans la voiture à ce moment-là, mais son attitude complaisante à l’égard du système de conduite automatisée de la voiture a également contribué à l’accident. Et cette attitude était déplacée. La voiture a détecté qu’Herzberg traversait la rue avec son vélo 5,6 secondes avant l’impact. Mais même si le système a continué à suivre Herzberg jusqu’à l’accident, il ne l’a jamais correctement identifiée comme un être humain sur la route, ni n’a prédit avec précision sa trajectoire.

« La complaisance en matière d’automatisation… doit faire partie du vocabulaire de tout le monde », a déclaré Bruce Landsberg, membre du conseil d’administration du NTSB.

Vasquez n’était absolument pas conscient de ce conflit jusqu’à ce qu’il soit trop tard. L’une des leçons implicites de l’accident d’Uber et de l’enquête du NTSB qui a suivi est la sous-utilisation des conducteurs de sécurité dans les voitures à conduite autonome, a déclaré Mary « Missy » Cummings, directrice du Humans and Autonomy Lab à l’Université Duke. Uber et d’autres sociétés qui testent des voitures à conduite autonome engagent généralement des entrepreneurs indépendants comme conducteurs de sécurité pour se déplacer dans les voitures et générer des kilomètres. Ils ne sont guère plus que des corps dans des sièges. Au lieu de cela, ils devraient être considérés comme des partenaires essentiels dans un protocole de test qui peut donner un retour d’information très utile, a déclaré Cummings.

« Bien sûr, cela coûterait de l’argent », a-t-elle ajouté. « Malgré le fait que tout le monde affirme du bout des lèvres que la sécurité est primordiale, personne, à ma connaissance, ne soutient les conducteurs de sécurité de cette manière. »

La culture d’entreprise agressive d’Uber – le besoin de tester les véhicules autonomes même si la technologie n’était pas prête – a été exposée non seulement par cette enquête, mais aussi par le procès intenté par Waymo, la société d’autopilotage issue de Google, qui a accusé Uber de voler ses secrets commerciaux d’autopilotage.

Photo : Uber

« Le conducteur avait une chance de sauver sa vie », a déclaré à The Verge un ancien employé d’Uber ATG qui était dans l’entreprise au moment de l’accident, « mais Uber en avait des dizaines ».

Uber ATG subissait une énorme pression pour montrer des résultats au nouveau PDG, Dara Khosrowshahi, qui aurait envisagé de fermer la division en raison de l’augmentation des coûts de R&D. Cela les a amenés à couper les coins ronds, bien que l’entreprise ait depuis fait d’importants progrès pour corriger ces erreurs.

Les membres du conseil du NTSB ont gardé leurs évaluations les plus cinglantes pour le gouvernement fédéral. Mme Homendy a reproché à la NHTSA de donner la priorité au progrès technologique plutôt qu’à sauver des vies, et elle a qualifié les conseils volontaires de l’agence de si « laxistes » qu’ils en sont « risibles ».

Les directives volontaires en matière de sécurité ont été établies pour la première fois sous le président Obama qui craignait que des règles restrictives régissant les tests des voitures à conduite autonome puissent étouffer l’innovation. Ces règles ont été rendues encore plus laxistes sous le président Trump qui est allé plus loin en éliminant un comité fédéral all-star sur l’automatisation des véhicules qui était censé servir de « ressource critique » pour le ministère des Transports. Trump a supprimé le comité sans même en informer certains de ses membres, a récemment rapporté The Verge.

À ce jour, seules 16 entreprises ont soumis des rapports de sécurité volontaires à la NHTSA, dont beaucoup ne sont guère plus que des « brochures marketing », a déclaré Ensar Becic, chef de projet et enquêteur sur les performances humaines au Bureau de la sécurité routière. Cela ne représente qu’une fraction des plus de 60 entreprises qui testent des voitures à conduite autonome rien qu’en Californie.

« Je veux dire que vous pourriez tout aussi bien dire que nous aimerions vos évaluations, mais nous ne les exigeons pas vraiment », a déclaré Homendy au cours de l’audience. « Alors pourquoi le faire ? »

Le ministère des Transports a publié trois versions de son guide sur la sécurité des véhicules automatisés, et il prévoit d’en publier une quatrième version qui intègre les leçons tirées de l’accident de Tempe, a déclaré Joel Szabat, sous-secrétaire intérimaire de la politique au ministère des Transports, lors d’une audition au Sénat le 20 novembre. (Le document original s’intitule « Automated Driving Systems : A Vision for Safety ». « Ils devraient le renommer ‘Une vision pour le manque de sécurité' », a plaisanté M. Homendy).

Aujourd’hui, il n’existe aucune loi fédérale exigeant que les opérateurs AV démontrent la sécurité de leurs véhicules avant de les tester sur les routes publiques ou fournissent des données sur les désengagements ou les défaillances de leurs systèmes de conduite automatisée. Le seul rôle du gouvernement est réactif : rappeler une pièce si elle est défectueuse ou lancer une enquête en cas d’accident.

Dans son rapport final, le NTSB recommande de changer cela. Les opérateurs AV devraient être tenus, et non pas encouragés, à soumettre des évaluations de sécurité s’ils veulent tester leurs véhicules sur les routes publiques, soutient-il, et il faut un processus d’évaluation continue pour déterminer si les opérateurs AV s’en tiennent à leurs objectifs de sécurité.

Mais le lendemain de la publication du rapport, l’administrateur principal de la NHTSA a témoigné lors d’une audition au Sénat que le Congrès devrait adopter une loi pour accélérer le déploiement de voitures entièrement autopilotées dépourvues de commandes traditionnelles comme les volants et les pédales. Actuellement, l’agence n’est autorisée à exempter qu’un total de 25 000 véhicules des normes fédérales de sécurité automobile par an.

« Comme nous l’entendons de la part de l’industrie, ce plafond pourrait être trop faible », a déclaré James Owens, administrateur intérimaire de la NHTSA.

La précédente tentative de lever les restrictions des voitures sans contrôle humain a fait un flop. Les démocrates du Sénat ont bloqué le projet de loi, invoquant des mesures insuffisantes pour assurer la sécurité. Une deuxième tentative est en cours, mais il reste à voir si elle peut rassembler suffisamment de votes pour passer.

Des réglementations fédérales trop restrictives à ce stade d’une technologie en évolution rapide causeront très probablement beaucoup plus de mal que de bien, a déclaré Raj Rajkumar, professeur d’ingénierie électrique et informatique à l’Université Carnegie Mellon. « Juste parce qu’Uber et son opérateur se sont ensuite mal comportés, tout le monde ne devrait pas être pénalisé », a-t-il déclaré.

Les véhicules autonomes sont censés sauver des vies, pas les prendre. Et si les gens ne font pas confiance aux entreprises qui construisent la technologie, alors le potentiel de sauvetage des voitures autonomes ne se matérialisera jamais. Les voitures erreront dans les rues, vides et sous-utilisées, jusqu’à ce que les opérateurs les débranchent.

Les sondages montrent que la moitié des adultes américains pensent que les véhicules automatisés sont plus dangereux que les véhicules traditionnels conduits par des personnes. Les opinions se durcissent déjà, et on ne voit pas bien ce qui peut être fait pour réparer les dégâts que le crash d’Uber a déjà causés.