La primera muerte de un coche robot en el mundo fue el resultado de un error humano – y puede volver a suceder

El 20 de noviembre, la Junta Nacional de Seguridad en el Transporte (NTSB) dio a conocer los resultados de su investigación sobre el accidente mortal de Uber de 2018 en Tempe, Arizona, que fue ampliamente considerado como la primera muerte del mundo por un coche de auto-conducción.

Pero en lugar de dar una bofetada al coche robot de Uber, los investigadores destacaron en cambio los numerosos errores humanos que culminaron en la muerte de Elaine Herzberg, de 49 años. Y lanzaron una advertencia: podría volver a ocurrir.

«Si su empresa prueba sistemas de conducción automatizada en la vía pública, este accidente, tuvo que ver con usted», dijo el presidente de la NTSB, Robert Sumwalt, en su declaración de apertura de la audiencia de ayer.

Cuando la junta leyó en voz alta sus conclusiones sobre la causa probable del accidente en Tempe, la primera persona a la que se culpó fue Rafaela Vásquez, la conductora de seguridad del vehículo en el momento del accidente. Vásquez nunca fue llamada por su nombre, pero sus fallos como vigilante del sistema de conducción automatizada fueron puestos en evidencia por la NTSB.

En los minutos previos al impacto, Vásquez habría estado viendo un episodio de The Voice en su teléfono, lo que viola la política de Uber que prohíbe el uso del teléfono. De hecho, los investigadores determinaron que había estado mirando su teléfono y alejándose de la carretera durante más de un tercio del tiempo total que había estado en el coche hasta el momento del accidente.

El hecho de que Vásquez «no vigilara el entorno de conducción y el funcionamiento del sistema de conducción automatizada porque se distrajo visualmente durante todo el viaje con su teléfono móvil personal» fue citado como la causa principal del accidente. Pero ella comparte la culpa con sus empleadores en Uber, donde una cultura de seguridad lamentablemente inadecuada también contribuyó a la muerte de Herzberg, dijo la junta. Asimismo, el gobierno federal también tuvo su parte de responsabilidad por no haber regulado mejor las operaciones de los coches autónomos.

Imagen: ABC 15

«En mi opinión, han antepuesto el avance de la tecnología a salvar vidas», dijo Jennifer Homendy, miembro de la junta de la NTSB, sobre la Administración Nacional de Seguridad del Tráfico en las Carreteras (NHTSA), encargada de regular las normas de seguridad de los vehículos.

En el momento del accidente, el Grupo de Tecnologías Avanzadas de Uber no contaba con un plan de seguridad corporativo ni con un documento guía que identificara las funciones y responsabilidades individuales de los empleados para gestionar la seguridad, dijo Michael Fox, investigador principal de accidentes de tráfico de la NTSB. La empresa tampoco contaba con una división de seguridad ni con un responsable de seguridad dedicado a la evaluación y mitigación de riesgos. En las semanas anteriores al accidente, Uber tomó la fatídica decisión de reducir el número de conductores de seguridad en cada vehículo de dos a uno. Esa decisión eliminó una importante redundancia que podría haber ayudado a prevenir la muerte de Herzberg.

No sólo estaba Vásquez sola en el coche en ese momento, sino que su actitud complaciente sobre el sistema de conducción automatizada del coche también contribuyó al accidente. Y esa actitud estaba lamentablemente equivocada. El coche detectó que Herzberg estaba cruzando la calle con su bicicleta 5,6 segundos antes del impacto. Pero aunque el sistema siguió rastreando a Herzberg hasta el momento del accidente, nunca la identificó correctamente como un ser humano en la carretera, ni predijo con exactitud su trayectoria.

«La complacencia de la automatización… tiene que estar en el vocabulario de todos», dijo Bruce Landsberg, miembro de la junta de la NTSB.

Vásquez desconocía por completo este conflicto hasta que fue demasiado tarde. Una de las lecciones implícitas del accidente de Uber y la posterior investigación de la NTSB es la infrautilización de los conductores de seguridad en los coches de autoconducción, dijo Mary «Missy» Cummings, directora de Humans and Autonomy Lab en la Universidad de Duke. Uber y otras empresas que prueban los coches de autoconducción suelen contratar a contratistas independientes como conductores de seguridad para que se desplacen en los coches y generen kilómetros. Se les considera poco más que cuerpos en asientos. En cambio, deberían ser vistos como socios críticos en un protocolo de pruebas que puede dar una retroalimentación muy útil, dijo Cummings.

«Por supuesto, esto costaría dinero», dijo. «A pesar de que todo el mundo habla de boquilla de que la seguridad es primordial, nadie que yo sepa está apoyando a los conductores de seguridad de esta manera».

La agresiva cultura corporativa de Uber -la necesidad de probar los vehículos autónomos a pesar de que la tecnología no estaba lista- ha quedado expuesta no solo a través de esta investigación, sino también a través de la demanda presentada por Waymo, la empresa de autoconducción escindida de Google, que acusó a Uber de robar sus secretos comerciales de autoconducción.

Foto: Uber

«El conductor tenía una oportunidad de salvar su vida», dijo a The Verge un antiguo empleado de Uber ATG que estaba en la empresa en el momento del accidente, «pero Uber tenía docenas».

Uber ATG estaba bajo una enorme presión para mostrar resultados al nuevo consejero delegado, Dara Khosrowshahi, que al parecer estaba considerando cerrar la división debido a los crecientes costes de I+D. Eso les llevó a recortar gastos, aunque desde entonces la empresa ha dado pasos importantes para solucionar esos errores.

Los miembros de la junta directiva de la NTSB reservaron sus evaluaciones más contundentes para el gobierno federal. Homendy culpó a la NHTSA de dar prioridad a los avances tecnológicos por encima de salvar vidas, y calificó las directrices voluntarias de la agencia de tan «laxas» como «irrisorias.»

Las directrices voluntarias de seguridad se establecieron por primera vez bajo el mandato del presidente Obama, quien temía que las normas restrictivas que rigen las pruebas de los coches de autoconducción pudieran sofocar la innovación. Esas reglas se han hecho aún más laxas bajo el presidente Trump, quien fue más allá al eliminar un comité federal de estrellas sobre la automatización de vehículos que estaba destinado a servir como un «recurso crítico» para el Departamento de Transporte. Trump eliminó el comité sin siquiera decirle a algunos de sus miembros, informó recientemente The Verge.

Hasta ahora, sólo 16 empresas han presentado informes de seguridad voluntarios a la NHTSA, muchos de los cuales equivalen a poco más que «folletos de marketing», dijo Ensar Becic, gerente de proyecto e investigador de rendimiento humano en la Oficina de Seguridad Vial. Eso representa sólo una fracción de las más de 60 empresas que prueban coches de autoconducción sólo en California.

«Quiero decir que también podrían decir que nos gustaría sus evaluaciones, pero realmente no las estamos exigiendo», dijo Homendy durante la audiencia. «Entonces, ¿por qué hacerlo?»

El Departamento de Transporte ha publicado tres versiones de su guía de seguridad para vehículos automatizados, y planea publicar una cuarta versión que incorpore las lecciones aprendidas del accidente de Tempe, dijo Joel Szabat, subsecretario interino de políticas del Departamento de Transporte, durante una audiencia en el Senado el 20 de noviembre. (El documento original se llama «Automated Driving Systems: Una visión para la seguridad». «Deberían rebautizarlo como ‘Una visión para la falta de seguridad'», bromeó Homendy.)

Hoy en día, no hay leyes federales que exijan a los operadores de AV que demuestren la seguridad de sus vehículos antes de probarlos en la vía pública o que proporcionen datos sobre desconexiones o fallos en sus sistemas de conducción automatizada. El único papel del gobierno es reactivo: retirar una pieza si es defectuosa o iniciar una investigación en caso de accidente.

En su informe final, la NTSB recomienda cambiar eso. Se debe exigir a los operadores de AV, y no alentarlos, que presenten evaluaciones de seguridad si quieren probar sus vehículos en las vías públicas, argumenta, y debe haber un proceso de evaluación continua para determinar si los operadores de AV se ciñen a sus objetivos de seguridad.

Pero al día siguiente de la publicación del informe, el principal administrador de la NHTSA declaró en una audiencia en el Senado que el Congreso debería aprobar una ley para acelerar el despliegue de los coches de conducción autónoma que carecen de controles tradicionales como volantes y pedales. En la actualidad, la agencia sólo puede eximir a un total de 25.000 vehículos de las normas federales de seguridad de los vehículos de motor al año.

«Como estamos escuchando de la industria ese tope puede ser demasiado pequeño», dijo el administrador en funciones de la NHTSA, James Owens.

El anterior intento de levantar las restricciones de los coches sin controles humanos fracasó. Los demócratas del Senado bloquearon el proyecto de ley, citando medidas inadecuadas para garantizar la seguridad. Se está preparando un segundo intento, pero está por ver si puede reunir los votos suficientes para ser aprobado.

Las regulaciones federales excesivamente restrictivas en esta etapa de una tecnología que cambia rápidamente muy probablemente causarán mucho más daño que bien, dijo Raj Rajkumar, profesor de ingeniería eléctrica e informática en la Universidad Carnegie Mellon. «Solo porque Uber y su operador se hayan comportado mal, no se debería penalizar a todos los demás», dijo.

Se supone que los vehículos autónomos deben salvar vidas, no quitarlas. Y si la gente no confía en las empresas que están construyendo la tecnología, entonces el potencial de los coches autónomos para salvar vidas nunca se materializará. Los coches vagarán por las calles, vacíos e infrautilizados, hasta que los operadores los desconecten.

Las encuestas muestran que la mitad de los adultos estadounidenses piensan que los vehículos automatizados son más peligrosos que los vehículos tradicionales operados por personas. Las opiniones ya se están endureciendo, y no está claro qué se puede hacer para deshacer el daño que ya ha causado el choque de Uber.