La morte della prima auto robot al mondo è stata il risultato di un errore umano – e può accadere di nuovo

Il 20 novembre, il National Transportation Safety Board (NTSB) ha rilasciato i risultati della sua indagine sull’incidente mortale di Uber del 2018 a Tempe, Arizona, che è stato ampiamente ritenuto il primo decesso al mondo di un’auto a guida autonoma.

Ma piuttosto che mettere le manette all’auto robotica di Uber, gli investigatori hanno invece evidenziato i molti errori umani che sono culminati nella morte della 49enne Elaine Herzberg. E hanno lanciato un avvertimento: potrebbe accadere di nuovo.

“Se la vostra azienda testa sistemi di guida automatica su strade pubbliche, questo incidente, riguardava voi”, ha detto il presidente del NTSB Robert Sumwalt nella sua dichiarazione di apertura dell’udienza di ieri.

Quando il consiglio ha letto ad alta voce le sue conclusioni sulla probabile causa dell’incidente di Tempe, la prima persona ad essere incolpata è stata Rafaela Vasquez, il conducente della sicurezza nel veicolo al momento dello schianto. Vasquez non è mai stata chiamata per nome, ma i suoi fallimenti come cane da guardia per il sistema di guida automatica sono stati messi in mostra dall’NTSB.

Nei minuti prima dell’impatto, Vasquez stava trasmettendo un episodio di The Voice sul suo telefono, che è in violazione della politica di Uber che vieta l’uso del telefono. Infatti, gli investigatori hanno determinato che lei aveva guardato il suo telefono e lontano dalla strada per oltre un terzo del tempo totale che era stata in macchina fino al momento dell’incidente.

L’incapacità della Vasquez “di monitorare l’ambiente di guida e il funzionamento del sistema di guida automatica perché era visivamente distratta per tutto il viaggio dal suo telefono cellulare personale” è stata citata come causa principale dell’incidente. Ma lei condivide la colpa con i suoi datori di lavoro a Uber dove una cultura della sicurezza tristemente inadeguata ha anche contribuito alla morte di Herzberg, il consiglio ha detto. Allo stesso modo, il governo federale aveva anche la sua parte di responsabilità per non aver regolato meglio le operazioni di auto autonome.

Immagine: ABC 15

“A mio parere hanno messo il progresso tecnologico qui prima di salvare vite umane”, ha detto il membro del consiglio NTSB Jennifer Homendy della National Highway Traffic Safety Administration (NHTSA), che è responsabile della regolamentazione degli standard di sicurezza dei veicoli.

Al momento dell’incidente, l’Advanced Technologies Group di Uber non aveva un piano di sicurezza aziendale o un documento guida che identificasse i ruoli e le responsabilità dei singoli dipendenti per gestire la sicurezza, ha detto Michael Fox, investigatore senior di incidenti stradali al NTSB. L’azienda mancava anche di una divisione per la sicurezza e non aveva un manager dedicato alla sicurezza responsabile della valutazione e della riduzione dei rischi. Nelle settimane prima dell’incidente, Uber ha preso la fatidica decisione di ridurre il numero di autisti di sicurezza in ogni veicolo da due a uno. Questa decisione ha rimosso un’importante ridondanza che avrebbe potuto aiutare a prevenire la morte di Herzberg.

Non solo Vasquez era solo in macchina in quel momento, ma il suo atteggiamento compiacente sul sistema di guida automatica dell’auto ha anche contribuito all’incidente. E questo atteggiamento era tristemente fuori luogo. L’auto ha rilevato che Herzberg stava attraversando la strada con la sua bicicletta 5,6 secondi prima dell’impatto. Ma anche se il sistema ha continuato a seguire Herzberg fino all’incidente, non l’ha mai identificata correttamente come un essere umano sulla strada, né ha previsto accuratamente il suo percorso.

“La compiacenza dell’automazione… deve essere nel vocabolario di tutti”, ha detto Bruce Landsberg, un membro del consiglio NTSB.

Vasquez era completamente all’oscuro di questo conflitto finché non è stato troppo tardi. Una delle lezioni implicite dell’incidente di Uber e la successiva indagine dell’NTSB è il sottoutilizzo dei conducenti di sicurezza nelle auto a guida autonoma, ha detto Mary “Missy” Cummings, direttore di Humans and Autonomy Lab alla Duke University. Uber e altre aziende che testano le auto a guida autonoma in genere assumono appaltatori indipendenti come autisti di sicurezza per andare in giro nelle auto e generare miglia. Sono visti come poco più che corpi nei sedili. Invece, dovrebbero essere visti come partner critici in un protocollo di test che può dare un feedback molto utile, ha detto Cummings.

“Naturalmente, questo costerebbe denaro”, ha detto. “

Malgrado il servizio verbale di tutti che la sicurezza è fondamentale, nessuno che io sappia sta sostenendo i conducenti di sicurezza in questo modo.”

La cultura aziendale aggressiva di Uber – la necessità di testare veicoli autonomi anche se la tecnologia non era pronta – è stata esposta non solo attraverso questa indagine, ma anche attraverso la causa intentata da Waymo, la società di guida autonoma scorporata da Google, che ha accusato Uber di rubare i suoi segreti commerciali di guida autonoma.

Foto: Uber

“L’autista ha avuto una sola possibilità di salvarle la vita”, ha detto a The Verge un ex dipendente di Uber ATG che era con l’azienda al momento dell’incidente, “ma Uber ne ha avute dozzine.”

Uber ATG era sotto enorme pressione per mostrare risultati al nuovo CEO, Dara Khosrowshahi, che stava considerando di chiudere la divisione a causa dei costi di R&D in aumento. Questo li ha portati a tagliare gli angoli, anche se l’azienda da allora ha fatto passi significativi per affrontare quegli errori.

I membri del consiglio di amministrazione del NTSB hanno risparmiato le loro valutazioni più incisive per il governo federale. Homendy ha accusato la NHTSA di dare la priorità al progresso tecnologico rispetto al salvare vite umane, e ha chiamato la guida volontaria dell’agenzia così “lassista” da essere “ridicola”.

Le linee guida volontarie sulla sicurezza sono state stabilite per la prima volta sotto il presidente Obama che temeva che le regole restrittive che governano i test delle auto a guida autonoma potessero soffocare l’innovazione. Queste regole sono state rese ancora più permissive sotto il presidente Trump che è andato oltre eliminando un comitato federale all-star sull’automazione dei veicoli che doveva servire come “risorsa critica” per il Dipartimento dei Trasporti. Trump ha eliminato il comitato senza nemmeno dirlo ad alcuni dei suoi membri, ha riferito recentemente The Verge.

Finora, solo 16 aziende hanno presentato rapporti di sicurezza volontari alla NHTSA, molti dei quali ammontano a poco più di “brochure di marketing”, ha detto Ensar Becic, project manager e investigatore delle prestazioni umane nell’Ufficio della sicurezza stradale. Questo rappresenta solo una frazione delle oltre 60 aziende che testano auto a guida autonoma nella sola California.

“Voglio dire che si potrebbe anche dire che vorremmo le vostre valutazioni, ma non le stiamo davvero richiedendo”, ha detto Homendy durante l’udienza. “Quindi perché farlo?”

Il Dipartimento dei trasporti ha emesso tre versioni della sua guida alla sicurezza dei veicoli automatizzati, e prevede di emettere una quarta versione che incorpora le lezioni apprese dall’incidente di Tempe, ha detto Joel Szabat, facente funzione di sottosegretario della politica presso il Dipartimento dei trasporti, durante un’audizione del Senato il 20 novembre. (Il documento originale si chiama “Automated Driving Systems: A Vision for Safety”. Dovrebbero rinominarlo “Una visione per la mancanza di sicurezza”, ha scherzato Homendy.)

Oggi, non ci sono leggi federali che richiedono agli operatori AV di dimostrare la sicurezza dei loro veicoli prima di testarli su strade pubbliche o fornire dati sui disinnesti o guasti nei loro sistemi di guida automatica. L’unico ruolo del governo è reattivo: richiamare un pezzo se è difettoso o avviare un’indagine in caso di incidente.

Nel suo rapporto finale, il NTSB raccomanda di cambiare questo. Gli operatori AV dovrebbero essere tenuti, non incoraggiati, a presentare valutazioni di sicurezza se vogliono testare i loro veicoli su strade pubbliche, sostiene, e ci deve essere un processo di valutazione continua per determinare se gli operatori AV si stanno attenendo ai loro obiettivi di sicurezza.

Ma il giorno dopo la pubblicazione del rapporto, l’amministratore di punta della NHTSA ha testimoniato in un’audizione al Senato che il Congresso dovrebbe approvare una legge per accelerare la diffusione di auto a guida completamente autonoma che mancano di controlli tradizionali come volanti e pedali. Attualmente, l’agenzia è autorizzata a esentare solo un totale di 25.000 veicoli all’anno dagli standard federali di sicurezza dei veicoli a motore.

“Come stiamo sentendo dall’industria quel limite potrebbe essere troppo piccolo”, ha detto l’amministratore in carica della NHTSA James Owens.

Il precedente tentativo di sollevare le restrizioni delle auto senza controlli umani è fallito. I democratici al Senato hanno bloccato la legge, citando misure inadeguate per garantire la sicurezza. Un secondo tentativo è in corso, ma resta da vedere se può raccogliere abbastanza voti per passare.

Regolamenti federali troppo restrittivi in questa fase di una tecnologia in rapida evoluzione causeranno molto probabilmente più danni che benefici, ha detto Raj Rajkumar, un professore di ingegneria elettrica e informatica alla Carnegie Mellon University. “Solo perché Uber e il suo operatore si sono comportati male, tutti gli altri non dovrebbero essere penalizzati”, ha detto.

I veicoli autonomi dovrebbero salvare vite, non prenderle. E se la gente non si fida delle aziende che stanno costruendo la tecnologia, allora il potenziale salvavita delle auto a guida autonoma non si concretizzerà mai. Le auto vagheranno per le strade, vuote e sottoutilizzate, finché gli operatori non staccheranno la spina.

I sondaggi mostrano che la metà degli adulti americani pensa che i veicoli automatizzati siano più pericolosi dei veicoli tradizionali gestiti da persone. Le opinioni si stanno già indurendo, e non è chiaro cosa si possa fare per annullare i danni che l’incidente di Uber ha già causato.