A világ első robotautós halálesetét emberi hiba okozta – és újra megtörténhet

November 20-án a Nemzeti Közlekedésbiztonsági Hivatal (NTSB) közzétette a 2018-ban az arizonai Tempe-ben történt halálos Uber-baleset vizsgálatának eredményét, amelyről széles körben úgy vélték, hogy a világ első önvezető autó által okozott haláleset volt.

Ahelyett azonban, hogy bilincset ütöttek volna az Uber robotautóján, a nyomozók inkább a számos emberi hibát emelték ki, amelyek a 49 éves Elaine Herzberg halálához vezettek. És figyelmeztetést adtak ki: ez újra megtörténhet.

“Ha az önök cége automatizált vezetési rendszereket tesztel közutakon, ez a baleset önökről szólt” – mondta Robert Sumwalt, az NTSB elnöke a tegnapi meghallgatás nyitóbeszédében.

Amikor a testület felolvasta a Tempe-ben történt baleset valószínűsíthető okáról szóló megállapításait, elsőként Rafaela Vasquezt, a baleset idején a járműben ülő biztonsági sofőrt hibáztatták. Vasquezt soha nem nevezték meg név szerint, de az automatizált vezetési rendszer felügyelőjeként elkövetett hibáit az NTSB szembetűnően bemutatta.

Az ütközés előtti percekben Vasquez állítólag a The Voice egyik epizódját nézte a telefonján, ami sérti az Uber telefonhasználatot tiltó szabályzatát. Sőt, a nyomozók megállapították, hogy a baleset pillanatáig az autóban töltött idő több mint egyharmadában a telefonjára pillantott, és nem figyelt az útra.

A baleset elsődleges okaként azt említették, hogy Vasquez “nem figyelte a vezetési környezetet és az automatizált vezetési rendszer működését, mivel az egész út során a személyes mobiltelefonja vizuálisan elterelte a figyelmét”. De megosztja a felelősséget a munkáltatójával, az Uberrel, ahol a sajnálatosan nem megfelelő biztonsági kultúra szintén hozzájárult Herzberg halálához, mondta a testület. Hasonlóképpen a szövetségi kormány is kivette a részét a felelősségből, amiért nem szabályozta jobban az autonóm autók működését.

Kép: ABC 15

“Véleményem szerint itt a technológiai fejlődést helyezték az életmentés elé” – mondta Jennifer Homendy, az NTSB igazgatótanácsának tagja a Nemzeti Közúti Közlekedésbiztonsági Hivatalról (NHTSA), amely a járművek biztonsági szabványainak szabályozásáért felelős.

A baleset idején az Uber Advanced Technologies Group-nak nem volt vállalati biztonsági terve vagy irányadó dokumentuma, amely meghatározta volna az egyes alkalmazottak szerepét és felelősségét a biztonság irányításában – mondta Michael Fox, az NTSB vezető közúti balesetvizsgálója. A vállalatnak nem volt biztonsági részlege, és nem volt külön biztonsági vezetője, aki a kockázatértékelésért és -csökkentésért felelt volna. A baleset előtti hetekben az Uber meghozta azt a végzetes döntést, hogy minden járműben kettőről egyre csökkenti a biztonsági sofőrök számát. Ez a döntés fontos redundanciát szüntetett meg, amely segíthetett volna megelőzni Herzberg halálát.

Nem csak Vasquez volt egyedül az autóban akkoriban, de az autó automatizált vezetési rendszerével kapcsolatos önelégült hozzáállása is hozzájárult a balesethez. És ez a hozzáállás sajnálatosan helytelen volt. Az autó 5,6 másodperccel az ütközés előtt észlelte, hogy Herzberg a kerékpárjával átkel az úton. De annak ellenére, hogy a rendszer egészen a balesetig követte Herzberget, soha nem azonosította őt helyesen, mint az úton közlekedő embert, és az útját sem jelezte pontosan előre.

“Az automatizálással kapcsolatos önelégültségnek… mindenkinek a szótárában kell lennie” – mondta Bruce Landsberg, az NTSB igazgatótanácsának tagja.

Vasquez egyáltalán nem volt tudatában ennek a konfliktusnak, amíg nem volt túl késő. Az Uber-baleset és az azt követő NTSB-vizsgálat egyik implicit tanulsága az önvezető autók biztonsági vezetőinek alulhasznosítása, mondta Mary “Missy” Cummings, a Duke Egyetem Humans and Autonomy Lab igazgatója. Az Uber és más önvezető autókat tesztelő cégek általában független vállalkozókat alkalmaznak biztonsági sofőrként, akik az autókban utaznak és kilométereket gyűjtenek. Őket nem tekintik többnek, mint testeket az ülésekben. Ehelyett a tesztelési protokoll kritikus partnereinek kellene tekinteni őket, akik nagyon hasznos visszajelzéseket adhatnak – mondta Cummings.

“Természetesen ez pénzbe kerülne” – mondta. “Annak ellenére, hogy mindenki azt hangoztatja, hogy a biztonság a legfontosabb, tudomásom szerint senki sem támogatja ilyen módon a biztonsági vezetőket.”

Az Uber agresszív vállalati kultúrája – az autonóm járművek tesztelésének szükségessége annak ellenére, hogy a technológia még nem volt kész – nemcsak e vizsgálat, hanem a Google-ból kivált önvezető vállalat, a Waymo által indított per is leleplezte, amely azzal vádolta az Ubert, hogy ellopta az önvezető üzleti titkait.

Fotó: Sz: Uber

“A sofőrnek egy esélye volt megmenteni az életét” – mondta a The Verge-nek egy volt Uber ATG alkalmazott, aki a baleset idején a vállalatnál dolgozott – “de az Ubernek tucatnyi volt.”

Az Uber ATG-n óriási nyomás volt, hogy eredményeket mutasson fel az új vezérigazgatónak, Dara Khosrowshahinak, aki állítólag a részleg bezárását fontolgatta a növekvő K+F költségek miatt. Ez arra késztette őket, hogy spóroljanak, bár a vállalat azóta jelentős lépéseket tett ezen hibák kiküszöbölésére.

Az NTSB igazgatótanácsának tagjai a legélesebb értékelésüket a szövetségi kormánynak tartogatták. Homendy azzal vádolta az NHTSA-t, hogy a technológiai fejlődést helyezi előtérbe az életmentéssel szemben, és az ügynökség önkéntes iránymutatását olyan “lazának” nevezte, hogy az már “nevetséges”.

Az önkéntes biztonsági irányelveket először Obama elnök alatt hozták létre, aki attól tartott, hogy az önvezető autók tesztelésére vonatkozó korlátozó szabályok elfojtják az innovációt. Ezeket a szabályokat még lazábbá tették Trump elnök alatt, aki még tovább ment, amikor megszüntette a járműautomatizálással foglalkozó szövetségi bizottságot, amely a közlekedési minisztérium “kritikus erőforrásaként” volt hivatott szolgálni. Trump úgy szüntette meg a bizottságot, hogy néhány tagjának még csak nem is szólt róla – jelentette nemrég a The Verge.

Eleddig mindössze 16 vállalat nyújtott be önkéntes biztonsági jelentést az NHTSA-hoz, amelyek közül sok alig több, mint “marketingbrosúra” – mondta Ensar Becic, a Közúti Biztonsági Hivatal projektvezetője és emberi teljesítményt vizsgáló szakértője. Ez csak töredéke annak a több mint 60 vállalatnak, amelyek csak Kaliforniában tesztelik az önvezető autókat.

“Úgy értem, akár azt is mondhatnánk, hogy szeretnénk az értékeléseket, de valójában nem követeljük meg” – mondta Homendy a meghallgatáson. “Akkor miért csináljuk?”

A Közlekedési Minisztérium már három változatot adott ki az automatizált járművek biztonságára vonatkozó útmutatásából, és tervezi egy negyedik változat kiadását, amely tartalmazza a tempe-i baleset tanulságait – mondta Joel Szabat, a Közlekedési Minisztérium politikai ügyekért felelős helyettes államtitkára a november 20-i szenátusi meghallgatáson. (Az eredeti dokumentum címe “Automated Driving Systems: A Vision for Safety”. “Át kellene nevezniük “A Vision for Lack of Safety” (A biztonság hiánya)” – viccelődött Homendy.)

Most nincsenek olyan szövetségi törvények, amelyek megkövetelnék az AV-üzemeltetők számára, hogy bizonyítsák járműveik biztonságát, mielőtt közúton tesztelnék őket, vagy adatokat szolgáltassanak az automatizált vezetési rendszereik kikapcsolásáról vagy hibáiról. A kormányzatnak csak reaktív szerepe van: visszahívni egy alkatrészt, ha az hibás, vagy baleset esetén vizsgálatot indítani.

Az NTSB végleges jelentésében ennek megváltoztatását javasolja. A jelentés szerint az AV-üzemeltetőknek biztonsági értékelések benyújtására kellene kötelezniük, nem pedig ösztönözni őket, ha járműveiket közutakon akarják tesztelni, és folyamatos értékelési folyamatra van szükség annak megállapítására, hogy az AV-üzemeltetők betartják-e a biztonsági céljaikat.

A jelentés megjelenését követő napon azonban az NHTSA legfőbb ügyintézője egy szenátusi meghallgatáson azt vallotta, hogy a Kongresszusnak törvényt kellene elfogadnia a teljesen önvezető autók bevezetésének felgyorsítására, amelyekből hiányoznak a hagyományos kezelőszervek, mint a kormánykerék és a pedálok. Jelenleg az ügynökség évente összesen csak 25 000 járművet mentesíthet a szövetségi gépjármű-biztonsági előírások alól.

“Ahogy az iparágtól halljuk, ez a felső határ túl kicsi lehet” – mondta James Owens, az NHTSA megbízott ügyvezetője.

A korábbi kísérlet az emberi vezérlés nélküli autók korlátozásának feloldására megbukott. A szenátusi demokraták megakadályozták a törvényjavaslatot, arra hivatkozva, hogy nem megfelelőek a biztonságot garantáló intézkedések. Egy második kísérlet van készülőben, de még nem tudni, hogy sikerül-e elegendő szavazatot szerezni az elfogadáshoz.

A túlságosan korlátozó szövetségi szabályozás egy gyorsan változó technológia jelenlegi szakaszában nagy valószínűséggel sokkal több kárt okoz, mint hasznot – mondta Raj Raj Rajkumar, a Carnegie Mellon Egyetem villamos- és számítástechnika professzora. “Csak azért, mert az Uber és az üzemeltetőjük akkor rosszul viselkedett, mindenki mást nem kellene büntetni” – mondta.”

Az autonóm járműveknek életeket kellene menteniük, nem pedig elvenniük. És ha az emberek nem bíznak a technológiát építő cégekben, akkor az önvezető autókban rejlő életmentő potenciál soha nem fog megvalósulni. Az autók üresen és kihasználatlanul fognak kóborolni az utcákon, amíg az üzemeltetők ki nem húzzák a dugót.

A felmérések szerint az amerikai felnőttek fele szerint az automatizált járművek veszélyesebbek, mint a hagyományos, ember által vezetett járművek. A vélemények máris megkeményedtek, és nem világos, mit lehet tenni az Uber-krach által már okozott károk visszafordítása érdekében.