Primul deces al unei mașini robotizate din lume a fost rezultatul unei erori umane – și se poate întâmpla din nou

La 20 noiembrie, Consiliul Național pentru Siguranța Transporturilor (NTSB) a publicat rezultatele investigației sale privind accidentul fatal Uber din 2018 din Tempe, Arizona, care a fost considerat pe scară largă ca fiind primul deces din lume provocat de o mașină care se conduce singură.

Dar, în loc să pună cătușele mașinii robot a Uber, anchetatorii au evidențiat în schimb numeroasele erori umane care au culminat cu moartea lui Elaine Herzberg, în vârstă de 49 de ani. Și au lansat un avertisment: s-ar putea întâmpla din nou.

„Dacă compania dvs. testează sisteme automate de conducere pe drumurile publice, acest accident, a fost despre dvs.”, a spus președintele NTSB, Robert Sumwalt, în declarația sa de deschidere a audierii de ieri.

Când consiliul a citit cu voce tare concluziile sale privind cauza probabilă a accidentului din Tempe, prima persoană care a fost învinuită a fost Rafaela Vasquez, șoferul de siguranță din vehicul în momentul accidentului. Vasquez nu a fost niciodată numită pe nume, dar eșecurile sale în calitate de câine de pază pentru sistemul de conducere automatizat au fost puse în evidență de NTSB.

În minutele dinaintea impactului, Vasquez se pare că transmitea un episod din The Voice pe telefonul ei, ceea ce reprezintă o încălcare a politicii Uber care interzice utilizarea telefonului. De fapt, anchetatorii au stabilit că ea a privit în jos la telefon și nu s-a uitat la drum timp de peste o treime din timpul total în care a fost în mașină până în momentul accidentului.

Eșecul lui Vasquez „de a monitoriza mediul de conducere și funcționarea sistemului de conducere automată, deoarece a fost distrasă vizual pe tot parcursul călătoriei de telefonul ei mobil personal” a fost citat ca fiind cauza principală a accidentului. Dar ea împarte vina cu angajatorii săi de la Uber, unde o cultură a siguranței extrem de inadecvată a contribuit, de asemenea, la moartea lui Herzberg, a declarat comisia. De asemenea, guvernul federal și-a asumat și el partea sa de responsabilitate pentru că nu a reușit să reglementeze mai bine operațiunile mașinilor autonome.

Imagine: ABC 15

„După părerea mea, aici au pus avansul tehnologic înaintea salvării de vieți”, a declarat Jennifer Homendy, membră a consiliului NTSB, despre Administrația Națională pentru Siguranța Traficului pe Autostrăzi (NHTSA), care este responsabilă pentru reglementarea standardelor de siguranță a vehiculelor.

La momentul accidentului, Grupul de Tehnologii Avansate al Uber nu avea un plan de siguranță corporativă sau un document de îndrumare care să identifice rolurile și responsabilitățile individuale ale angajaților pentru gestionarea siguranței, a declarat Michael Fox, investigator principal de accidente rutiere la NTSB. De asemenea, compania nu dispunea de o divizie de siguranță și nu avea un manager de siguranță dedicat responsabil cu evaluarea și reducerea riscurilor. În săptămânile dinaintea accidentului, Uber a luat decizia fatală de a reduce numărul de șoferi de siguranță din fiecare vehicul de la doi la unul. Această decizie a eliminat o redundanță importantă care ar fi putut contribui la prevenirea morții lui Herzberg.

Nu numai că Vasquez era singură în mașină în acel moment, dar și atitudinea ei mulțumitoare cu privire la sistemul de conducere automată a mașinii a contribuit, de asemenea, la producerea accidentului. Iar această atitudine a fost lamentabil de deplasată. Mașina a detectat că Herzberg traversa strada cu bicicleta ei cu 5,6 secunde înainte de impact. Dar, chiar dacă sistemul a continuat să o urmărească pe Herzberg până la accident, nu a identificat-o niciodată corect ca fiind o ființă umană pe șosea și nici nu i-a prezis cu exactitate traiectoria.

„Complicitatea în materie de automatizare… trebuie să fie în vocabularul tuturor”, a declarat Bruce Landsberg, un membru al consiliului NTSB.

Vasquez a fost complet inconștientă de acest conflict până când a fost prea târziu. Una dintre lecțiile implicite ale accidentului Uber și ale anchetei ulterioare a NTSB este subutilizarea șoferilor de siguranță în mașinile care se conduc singure, a declarat Mary „Missy” Cummings, director al Humans and Autonomy Lab de la Universitatea Duke. Uber și alte companii care testează mașini care se conduc singure angajează de obicei contractori independenți ca șoferi de siguranță pentru a se plimba cu mașinile și a genera kilometri. Aceștia sunt văzuți ca fiind puțin mai mult decât niște corpuri în scaune. În schimb, ei ar trebui să fie văzuți ca parteneri critici într-un protocol de testare care pot oferi un feedback foarte util, a spus Cummings.

„Bineînțeles, acest lucru ar costa bani”, a spus ea. „În ciuda faptului că toată lumea spune din gură în gură că siguranța este primordială, nimeni, din câte știu eu, nu sprijină șoferii de siguranță în acest fel.”

Cultura corporativă agresivă a Uber – nevoia de a testa vehiculele autonome chiar dacă tehnologia nu era pregătită – a fost expusă nu numai prin această investigație, ci și prin procesul intentat de Waymo, compania de autoconducere desprinsă din Google, care a acuzat Uber că i-a furat secretele comerciale de autoconducere.

Foto: Foto: Uber

„Șoferul a avut o singură șansă de a-și salva viața”, a declarat pentru The Verge un fost angajat al Uber ATG, care lucra în cadrul companiei în momentul accidentului, „dar Uber a avut zeci.”

Uber ATG se afla sub o presiune enormă pentru a arăta rezultate noului CEO, Dara Khosrowshahi, care se pare că se gândea să închidă divizia din cauza costurilor tot mai mari de R&D. Acest lucru i-a determinat să facă economii, deși, de atunci, compania a făcut pași importanți pentru a remedia aceste greșeli.

Membrii consiliului NTSB și-au păstrat cele mai vehemente evaluări pentru guvernul federal. Homendy a acuzat NHTSA că a prioritizat avansul tehnologic în detrimentul salvării de vieți și a numit orientările voluntare ale agenției atât de „laxe” încât sunt „rizibile”.

Legitimările voluntare privind siguranța au fost stabilite pentru prima dată în timpul președintelui Obama, care se temea că normele restrictive care reglementează testarea mașinilor care se conduc singure ar putea înăbuși inovația. Aceste reguli au fost făcute și mai laxe sub președintele Trump, care a mers mai departe eliminând un comitet federal de vedete privind automatizarea vehiculelor care trebuia să servească drept „resursă critică” pentru Departamentul de Transporturi. Trump a desființat comitetul fără ca măcar să le spună unora dintre membrii săi, a relatat recent The Verge.

Până în prezent, doar 16 companii au trimis rapoarte voluntare de siguranță către NHTSA, multe dintre acestea însemnând puțin mai mult decât „broșuri de marketing”, a declarat Ensar Becic, manager de proiect și investigator al performanței umane în cadrul Biroului de siguranță rutieră. Aceasta reprezintă doar o fracțiune din cele peste 60 de companii care testează mașini care se conduc singure numai în California.

„Adică ați putea la fel de bine să spuneți că am dori evaluările dumneavoastră, dar nu le solicităm cu adevărat”, a spus Homendy în timpul audierii. „Deci, de ce să o facem?”

Departamentul Transporturilor a emis trei versiuni ale ghidului său de siguranță pentru vehiculele automate și intenționează să emită o a patra versiune care să încorporeze lecțiile învățate în urma accidentului din Tempe, a declarat Joel Szabat, subsecretar interimar pentru politici la Departamentul Transporturilor, în timpul unei audieri în Senat la 20 noiembrie. (Documentul original se numește „Automated Driving Systems: O viziune pentru siguranță”. „Ar trebui să-l redenumească „O viziune pentru lipsa de siguranță””, a glumit Homendy.)

În prezent, nu există nicio lege federală care să le ceară operatorilor de AV să demonstreze siguranța vehiculelor lor înainte de a le testa pe drumurile publice sau să furnizeze date privind dezangajările sau defecțiunile sistemelor lor de conducere automată. Singurul rol al guvernului este reactiv: să recheme în service o piesă dacă aceasta este defectă sau să lanseze o investigație în cazul unui accident.

În raportul său final, NTSB recomandă schimbarea acestei situații. Operatorii de AV ar trebui să fie obligați, nu încurajați, să prezinte evaluări de siguranță dacă doresc să își testeze vehiculele pe drumurile publice, susține acesta, și trebuie să existe un proces de evaluare continuă pentru a determina dacă operatorii de AV se țin de obiectivele lor de siguranță.

Dar, la o zi după publicarea raportului, administratorul principal al NHTSA a declarat în cadrul unei audieri în Senat că Congresul ar trebui să adopte o lege pentru a accelera implementarea mașinilor care se conduc complet singure și care nu au comenzi tradiționale, cum ar fi volanul și pedalele. În prezent, agenția are voie să excepteze doar un total de 25.000 de vehicule pe an de la standardele federale de siguranță a autovehiculelor.

„După cum aflăm de la industrie, acest plafon ar putea fi prea mic”, a declarat administratorul interimar al NHTSA, James Owens.

Tentativa anterioară de a ridica restricțiile mașinilor fără comenzi umane a eșuat. Democrații din Senat au blocat proiectul de lege, invocând măsuri inadecvate pentru a asigura siguranța. O a doua încercare este în curs de desfășurare, dar rămâne de văzut dacă poate aduna suficiente voturi pentru a trece.

Reglementările federale prea restrictive în acest stadiu al unei tehnologii în schimbare rapidă vor cauza foarte probabil mult mai mult rău decât bine, a declarat Raj Rajkumar, profesor de inginerie electrică și informatică la Universitatea Carnegie Mellon. „Doar pentru că Uber și operatorul lor s-au comportat apoi prost, toți ceilalți nu ar trebui să fie penalizați”, a spus el.

Vehiculele autonome ar trebui să salveze vieți, nu să le ia. Și dacă oamenii nu au încredere în companiile care construiesc tehnologia, atunci potențialul de salvare a vieților pe care îl au mașinile cu conducere autonomă nu se va materializa niciodată. Mașinile vor cutreiera străzile, goale și subutilizate, până când operatorii le vor deconecta.

Poll-urile arată că jumătate dintre adulții din SUA cred că vehiculele automatizate sunt mai periculoase decât vehiculele tradiționale operate de oameni. Opiniile se întăresc deja și nu este clar ce se poate face pentru a anula daunele pe care accidentul Uber le-a provocat deja.