世界初のロボットカーによる死亡事故はヒューマンエラーの結果だった – そしてそれは再び起こりうる

11月20日、国家運輸安全委員会（NTSB）は、世界初の自動運転車による死亡事故と広く考えられていたアリゾナ州テンピでの2018年のウーバー死亡事故に関する調査結果を発表した。

しかし、捜査官はUberのロボットカーに手錠をかけるのではなく、49歳のElaine Herzbergの死に至った多くの人的ミスを強調しました。 そして、「また起きるかもしれない」という警告を発しました。

「もしあなたの会社が公道で自動運転システムをテストしているなら、この事故はあなたのことだ」と、NTSBのロバート・サムワルト委員長は昨日の公聴会の開会宣言で述べた。

理事会がテンピでの事故の推定原因に関する調査結果を読み上げたとき、最初に非難されたのは、事故時に車両に乗っていた安全運転者のRafaela Vasquezであった。 バスケスは名指しで呼ばれることはなかったが、自動運転システムの監視役としての彼女の失敗は、NTSBによってまざまざと見せつけられた。

衝突前の数分間、Vasquezは携帯電話でThe Voiceのエピソードをストリーミングしていたと言われていますが、これはUberの電話使用禁止ポリシーに違反しています。 実際、捜査官は、事故の瞬間まで車に乗っていた時間の3分の1以上、彼女は携帯電話に目を落とし、道路から離れていたと判断しています。

バスケスは「旅行中、個人の携帯電話で視覚的に気を取られていたため、運転環境と自動運転システムの動作を監視しなかった」ことが事故の主な原因として挙げられています。 しかし、彼女は雇用主であるウーバーと責任を分かち合っている。ウーバーでは、ひどく不十分な安全文化もまた、ハーズバーグの死の原因となっている、と理事会は述べている。 同様に、連邦政府も自律走行車の運用をよりよく規制することに失敗した責任を負っている。

画像はイメージです。 ABC 15

「私の意見では、彼らは人命救助よりも技術の進歩を優先した」と、NTSB理事のジェニファー・ホーメンディ氏は、自動車の安全基準の規制を担当する国家道路交通安全局（NHTSA）について述べています。

事故当時、ウーバーのアドバンスト・テクノロジー・グループには、安全を管理するための個々の従業員の役割と責任を特定する企業安全計画や指導文書がなかったと、NTSBの上級高速道路事故調査官、マイケル・フォックスは述べている。 また、同社には安全部門がなく、リスク評価と軽減を担当する専任の安全管理者もいなかった。 事故の数週間前、Uberは各車両の安全運転者を2人から1人に減らすという運命的な決断を下した。 この決定により、Herzbergの死を防ぐのに役立つ重要な冗長性が取り除かれたのです。

当時、バスケスは車に一人で乗っていただけでなく、車の自動運転システムに対する彼女の自己満足な態度も事故の一因となった。 そしてその態度は、ひどく見当違いだったのです。 自動運転システムは、衝突の5.6秒前にヘルツバーグが自転車を持って道路を横断していることを検知していた。 しかし、システムは衝突の直前までHerzbergを追跡し続けていたにもかかわらず、彼女を道路上の人間として正しく認識することはなく、また彼女の進路を正確に予測することもできませんでした」

NTSB理事のBruce Landsbergは、「自動運転の自己満足は…すべての人の語彙に入れる必要があります」と語りました。

バスケスは、手遅れになるまで、この衝突にまったく気づいていませんでした。 Uberの事故とその後のNTSBの調査の暗黙の教訓の1つは、自動運転車における安全運転者の活用不足だと、デューク大学のHumans and Autonomy LabのディレクターであるMary “Missy” Cummingsは述べている。 Uberをはじめ、自動運転車のテストを行う企業は通常、セーフティドライバーとして独立した契約者を雇い、車に同乗して走行距離を稼いでいる。 彼らは座席に座るだけの存在としか見られていません。 むしろ、彼らは非常に有益なフィードバックを与えてくれるテスト・プロトコルの重要なパートナーとして見られるべきだと、カミングス氏は述べた。

「もちろん、これにはお金がかかります」と彼女は言います。 「安全が最優先であるという皆のリップサービスにもかかわらず、私が知る限り、この方法で安全ドライバーをサポートしている人はいません」

Uberの攻撃的な企業文化–技術が整っていないにもかかわらず自律走行車をテストする必要性–は、この調査だけでなく、Googleからスピンアウトした自動運転企業WaymoがUberの自動運転の企業秘密を盗んだと告発した訴訟によっても暴露されています。

写真はイメージです。 Uber

「ドライバーには命を救うチャンスが1回あった」と、事故当時同社にいた元Uber ATGの従業員はThe Vergeに語った。「しかしUberには何十回もあった」

Uber ATGは、R&Dコストが膨らみ、部門の閉鎖を検討していたと伝えられる新しいCEO、ダラ・コスロシャヒに結果を見せなければならないという大きな圧力下にいたのである。 そのため、手抜きをするようになったが、同社はその後、そうしたミスに対処するために大きな前進を遂げた。

NTSBの理事たちは、最も辛辣な評価を連邦政府に対して行いました。 ホーメンディは、NHTSAが人命救助よりも技術の進歩を優先していると非難し、NHTSAの自主的なガイダンスは「笑いもの」になるほど「いい加減」であるとした。

自主的な安全ガイドラインは、自動運転車のテストを管理する制限的なルールがイノベーションを阻害することを恐れたオバマ大統領の下で初めて制定された。 これらの規則は、運輸省の「重要なリソース」として機能することを意図していた車両自動化に関するオールスターの連邦委員会を廃止してさらに踏み込んだトランプ大統領の下でさらに緩くなった。 The Vergeが最近報じたところによると、トランプ大統領は一部のメンバーにさえ伝えずに委員会を廃止した。

これまで、NHTSAに自主的な安全性報告書を提出したのは16社のみで、その多くは「マーケティングのパンフレット」に過ぎないと、道路安全局のプロジェクトマネージャー兼ヒューマンパフォーマンス調査官のEnsar Becicは述べています。 これは、カリフォルニア州だけで60社以上が自動運転車のテストを行っているうちの、ほんの一部に過ぎないのです。

「つまり、あなた方の評価が欲しいと言うかもしれないが、実際にはそれを要求していない」と、ホーメンディは公聴会で述べた。 「運輸省は自動運転車安全ガイダンスの3つのバージョンを発行しており、テンピの事故から学んだ教訓を盛り込んだ4番目のバージョンを発行する予定だと、11月20日の上院公聴会で運輸省の政策担当次官代理のジョエル・サバト（Joel Szabat）は述べています。 (原文は “Automated Driving Systems: 安全へのビジョン” “A Vision for Lack of Safety “と改名すべきだ」とHomendy氏は口にした)

今日、AV事業者に対して、公道でのテスト前に車両の安全性を実証したり、自動運転システムにおける離脱や故障に関するデータを提供するよう求める連邦法は存在しない。 政府の役割は、欠陥があれば部品をリコールしたり、事故が起きれば調査を開始したりと、あくまで事後対応的なものです。

最終報告書の中で、NTSBはそれを変えるよう提言しています。 また、AVオペレーターが安全目標を守っているかどうかを判断するための継続的な評価プロセスが必要であると主張しています。

しかし、この報告書が発表された翌日、NHTSAの最高責任者は上院の公聴会で、ハンドルやペダルといった従来の制御装置がない完全な自動運転車の展開を加速するための法律を議会で可決すべきだと証言した。 現在、同庁が連邦自動車安全基準から免除できるのは、年間計2万5000台にとどまっている。

「業界から聞いているように、その上限は小さすぎるかもしれません」と、NHTSAのジェームズ・オーエンス長官代理は述べています。

人間がコントロールできない車の制限を解除しようとした前回の試みは失敗に終わった。 上院の民主党は、安全性を確保するための措置が不十分だとして、法案を阻止した。 2回目の試みが行われているが、通過するのに十分な票を集められるかどうかは未知数である。

急速に変化するテクノロジーのこの段階で、過度に制限的な連邦規制は、良いことよりも著しく多くの害をもたらす可能性が非常に高いと、カーネギーメロン大学の電気・コンピューター工学の教授、ラジ・ラジクマールは述べています。 「Uber とそのオペレーターが悪いことをしたからといって、他のすべての人が罰せられるべきではありません」と、彼は述べました。 そして、もし人々がその技術を構築している企業を信頼しないなら、自動運転車の命を救う可能性は実現しないでしょう。 自動車は、運転手がプラグを抜くまで、空っぽで活用されないまま、街をさまようことになる。

世論調査によると、米国の成人の半数は、自動運転車は人が運転する従来の車よりも危険だと考えているそうです。 意見はすでに固まりつつあり、ウーバーの事故がすでに与えたダメージを元に戻すために何ができるかは不明です。