Maailman ensimmäinen robottiauton aiheuttama kuolemantapaus johtui inhimillisestä virheestä – ja se voi tapahtua uudelleen

National Transportation Safety Board (NTSB) julkisti 20. marraskuuta tutkimustuloksensa Arizonan Tempessä vuonna 2018 tapahtuneesta kuolemaan johtaneesta Uberin kolarista, jonka uskottiin laajalti olevan maailman ensimmäinen itseohjautuvan auton aiheuttama kuolemantapaus.

Mutta sen sijaan, että tutkijat olisivat lyöneet käsirautoja Uberin robottiautolle, he korostivat sen sijaan monia inhimillisiä virheitä, jotka huipentuivat 49-vuotiaan Elaine Herzbergin kuolemaan. Ja he antoivat varoituksen: se voi tapahtua uudelleen.

”Jos yrityksesi testaa automatisoituja ajojärjestelmiä yleisillä teillä, tämä onnettomuus koski sinua”, NTSB:n puheenjohtaja Robert Sumwalt sanoi eilisen kuulemisen avauspuheenvuorossaan.

Kun lautakunta luki ääneen havaintonsa Tempen onnettomuuden todennäköisestä syystä, ensimmäisenä syytettiin Rafaela Vasquezia, ajoneuvossa onnettomuushetkellä ollutta turvakuskia. Vasquezia ei koskaan mainittu nimeltä, mutta NTSB toi hänen epäonnistumisensa automaattisen ajojärjestelmän valvojana selvästi esille.

Minuutteja ennen törmäystä Vasquezin kerrottiin suoratoistaneen puhelimellaan The Voice -ohjelman jaksoa, mikä on vastoin Uberin puhelimen käytön kieltävää käytäntöä. Itse asiassa tutkijat totesivat, että hän oli vilkuillut puhelintaan ja pois tieltä yli kolmanneksen koko ajasta, jonka hän oli ollut autossa onnettomuushetkeen asti.

Vasquezin ”laiminlyönti valvoa ajoympäristöä ja automaattisen ajojärjestelmän toimintaa, koska hänen henkilökohtainen matkapuhelimensa häiritsi häntä visuaalisesti koko matkan ajan”, mainittiin onnettomuuden ensisijaisena syynä. Lautakunnan mukaan hän on kuitenkin syyllinen myös työnantajansa Uberin kanssa, jonka surullisen riittämätön turvallisuuskulttuuri vaikutti myös Herzbergin kuolemaan. Myös liittovaltion hallitus kantoi osansa vastuusta, koska se ei ole pystynyt sääntelemään paremmin autonomisten autojen toimintaa.

Kuva: ABC 15

”Mielestäni he ovat asettaneet teknologisen kehityksen tässä kohtaa ihmishenkien pelastamisen edelle”, NTSB:n johtokunnan jäsen Jennifer Homendy sanoi kansallisesta liikenneturvallisuusvirastosta NHTSA:sta (National Highway Traffic Safety Administration), joka vastaa ajoneuvojen turvallisuusstandardien sääntelystä.

Uberin Advanced Technologies Groupilla ei onnettomuushetkellä ollut yrityksen turvallisuussuunnitelmaa tai ohjaavaa asiakirjaa, jossa olisi yksilöity yksittäisten työntekijöiden roolit ja vastuualueet turvallisuuden hallitsemiseksi, sanoi NTSB:n vanhempi maantieonnettomuuksien tutkija Michael Fox. Yhtiöllä ei myöskään ollut turvallisuusosastoa eikä erityistä turvallisuuspäällikköä, joka olisi vastannut riskien arvioinnista ja vähentämisestä. Viikkoja ennen onnettomuutta Uber teki kohtalokkaan päätöksen vähentää turvallisuuskuljettajien määrää jokaisessa ajoneuvossa kahdesta yhteen. Tämä päätös poisti tärkeän redundanssin, joka olisi voinut auttaa estämään Herzbergin kuoleman.

Ei pelkästään se, että Vasquez oli tuolloin yksin autossa, vaan myös hänen omahyväinen asenteensa auton automaattista ajojärjestelmää kohtaan vaikutti osaltaan onnettomuuteen. Ja tuo asenne oli valitettavan väärässä paikassa. Auto havaitsi, että Herzberg oli ylittämässä katua polkupyöränsä kanssa 5,6 sekuntia ennen törmäystä. Mutta vaikka järjestelmä jatkoi Herzbergin seuraamista onnettomuuteen asti, se ei koskaan tunnistanut häntä oikein tiellä liikkuvaksi ihmiseksi eikä ennakoinut tarkasti hänen kulkuaan.

”Automaatioautomaation itsetyytyväisyyden… on kuuluttava kaikkien sanavarastoon”, sanoi NTSB:n johtokunnan jäsen Bruce Landsberg.

Vasquez oli täysin tietämätön tästä ristiriidasta, kunnes oli liian myöhäistä. Yksi Uberin onnettomuuden ja sitä seuranneen NTSB:n tutkimuksen implisiittisistä opetuksista on turvakuskien alikäyttö itseohjautuvissa autoissa, sanoi Mary ”Missy” Cummings, Duken yliopiston Humans and Autonomy Labin johtaja. Uber ja muut itseohjautuvia autoja testaavat yritykset palkkaavat yleensä turvakuljettajiksi riippumattomia urakoitsijoita, jotka ajavat autoilla ja keräävät kilometrejä. Heitä ei pidetä juurikaan muuna kuin ruumiina istuimissa. Sen sijaan heidät pitäisi nähdä kriittisinä kumppaneina testausprotokollassa, joka voi antaa erittäin hyödyllistä palautetta, Cummings sanoi.

”Tämä tietysti maksaisi rahaa”, hän sanoi. ”Huolimatta kaikkien huuliharjoittelusta, jonka mukaan turvallisuus on etusijalla, kukaan tietääkseni ei tue turvallisuuskuljettajia tällä tavalla.”

Uberin aggressiivinen yrityskulttuuri – tarve testata autonomisia ajoneuvoja, vaikka teknologia ei ollut vielä valmis – on paljastunut paitsi tämän tutkinnan, myös Googlen itsestään ajavia ajoneuvoja valmistavan Waymo-yhtiön nostaman oikeusjutun kautta, jossa se syytti Uberia itsestään ajavien ajoneuvojen liikesalaisuuksien varastamisesta.

Kuva: Uber

”Kuljettajalla oli yksi mahdollisuus pelastaa henkensä”, eräs entinen Uber ATG:n työntekijä, joka oli yhtiössä onnettomuushetkellä, kertoi The Verge -lehdelle, ”mutta Uberilla oli kymmeniä mahdollisuuksia.”

Uber ATG:llä oli valtavat paineet näyttää tuloksia uudelle toimitusjohtajalle Dara Khosrowshahille, joka tiettävästi harkitsi divisioonan sulkemista kasvaneiden T&K-kustannusten vuoksi. Tämä johti siihen, että he leikkasivat kulmista, vaikka yhtiö on sittemmin tehnyt merkittäviä edistysaskeleita näiden virheiden korjaamiseksi.

NTSB:n johtokunnan jäsenet säästivät jyrkimmät arvionsa liittovaltion hallitukselle. Homendy syytti NHTSA:ta siitä, että se asettaa teknologisen kehityksen ihmishenkien pelastamisen edelle, ja hän kutsui viraston vapaaehtoista ohjeistusta niin ”löyhäksi”, että se on ”naurettavaa”.

Vapaaehtoiset turvallisuusohjeet laadittiin ensimmäisen kerran presidentti Obaman aikana, joka pelkäsi, että itseajavien autojen testausta koskevat rajoittavat säännöt voisivat tukahduttaa innovaatiot. Näitä sääntöjä on höllennetty entisestään presidentti Trumpin aikana, joka meni vielä pidemmälle lakkauttamalla ajoneuvojen automatisointia käsittelevän liittovaltion kaikkien tähtien komitean, jonka oli tarkoitus toimia liikenneministeriön ”kriittisenä resurssina”. Trump lakkautti komitean kertomatta siitä edes joillekin sen jäsenille, kertoi The Verge hiljattain.

Nykyisin vain 16 yritystä on toimittanut NHTSA:lle vapaaehtoisia turvallisuusraportteja, joista monet ovat vähän enemmän kuin ”markkinointiesitteitä”, sanoi Ensar Becic, projektipäällikkö ja inhimillisen suorituskyvyn tutkija liikenneturvallisuusvirastossa. Tämä on vain murto-osa niistä yli 60 yrityksestä, jotka testaavat itseohjautuvia autoja pelkästään Kaliforniassa.

”Tarkoitan, että voisitte yhtä hyvin sanoa, että haluaisimme arvionne, mutta emme todellakaan vaadi niitä”, Homendy sanoi kuulemistilaisuudessa. ”Miksi siis tehdä sitä?”

Tieliikenneministeriö on julkaissut kolme versiota automaattiajoneuvojen turvallisuutta koskevista ohjeistaan, ja se aikoo julkaista neljännen version, johon sisällytetään Tempen onnettomuudesta saadut kokemukset, sanoi liikenneministeriön politiikasta vastaava vt. alivaltiosihteeri Joel Szabat senaatin kuulemistilaisuudessa 20. marraskuuta. (Alkuperäisen asiakirjan nimi on ”Automated Driving Systems: A Vision for Safety”. ”Heidän pitäisi nimetä se uudelleen ’A Vision for Lack of Safety'”, Homendy vitsaili.)

Tänään ei ole olemassa liittovaltion lakeja, jotka vaatisivat AV-operaattoreita osoittamaan ajoneuvojensa turvallisuuden ennen niiden testaamista yleisillä teillä tai toimittamaan tietoja automaattisen ajamisen järjestelmiensä kytkeytymisistä tai vioista. Hallituksen ainoa rooli on reaktiivinen: se voi kutsua osan takaisin, jos se on viallinen, tai käynnistää tutkinnan onnettomuuden sattuessa.

Loppuraportissaan NTSB suosittelee tämän muuttamista. Sen mukaan AV-operaattoreita pitäisi vaatia, ei kannustaa, toimittamaan turvallisuusarviointeja, jos ne haluavat testata ajoneuvojaan yleisillä teillä, ja tarvitaan jatkuva arviointiprosessi sen määrittämiseksi, pitävätkö AV-operaattorit kiinni turvallisuustavoitteistaan.

Mutta raportin julkaisemista seuraavana päivänä NHTSA:n ylin hallintovirkamies todisti senaatin kuulemistilaisuudessa, että kongressin pitäisi säätää laki, jolla nopeutetaan täysin itseohjautuvien autojen käyttöönottoa, sillä niistä puuttuvat perinteiset hallintalaitteet, kuten ohjauspyörät ja polkimet. Tällä hetkellä virasto saa vapauttaa vuosittain yhteensä vain 25 000 ajoneuvoa liittovaltion moottoriajoneuvojen turvallisuusstandardeista.

”Kuten olemme kuulleet teollisuudelta, tämä raja saattaa olla liian pieni”, sanoi NHTSA:n vt. hallintojohtaja James Owens.

Edellinen yritys poistaa rajoitukset autoista, joissa ei ole ihmisen ohjausta, kariutui. Senaatin demokraatit estivät lakiesityksen vedoten riittämättömiin toimenpiteisiin turvallisuuden varmistamiseksi. Toinen yritys on tekeillä, mutta nähtäväksi jää, saako se tarpeeksi ääniä läpi.

Liian rajoittavat liittovaltion säädökset nopeasti muuttuvan teknologian tässä vaiheessa aiheuttavat hyvin todennäköisesti huomattavasti enemmän haittaa kuin hyötyä, sanoi Raj Raj Rajkumar, sähkö- ja tietotekniikan professori Carnegie Mellonin yliopistosta. ”Vain siksi, että Uber ja sen operaattori käyttäytyivät silloin huonosti, kaikkia muita ei pitäisi rangaista”, hän sanoi.

Autonomisten ajoneuvojen on tarkoitus pelastaa ihmishenkiä, ei viedä niitä. Ja jos ihmiset eivät luota teknologiaa rakentaviin yrityksiin, itseajavien autojen ihmishenkiä pelastava potentiaali ei koskaan toteudu. Autot vaeltavat kaduilla tyhjinä ja vajaakäytössä, kunnes operaattorit vetävät pistokkeen irti.

Kyselyjen mukaan puolet yhdysvaltalaisista aikuisista pitää automatisoituja ajoneuvoja vaarallisempina kuin perinteisiä ihmisten ohjaamia ajoneuvoja. Mielipiteet ovat jo kovettumassa, ja on epäselvää, mitä voidaan tehdä Uberin kolarin jo aiheuttamien vahinkojen korjaamiseksi.