Muerte por coche sin conductor: ¿Quién tiene la culpa cuando los coches robot matan?
Es el año 2025. Su automóvil sin conductor acaba de chocar contra un árbol a 55 mph porque su computadora incorporada valoraba la vida de un peatón por encima de la suya. Sus lesiones son el resultado de algunas líneas de código que fueron pirateadas por un programador de software de 26 años en el Área de la Bahía de San Francisco en los embriagadores días de 2018. Mientras espera un dron paramédico, sangrando junto a la carretera, se pregunta: ¿dónde salió todo mal?
El escenario anterior puede parecer fantasioso, pero la muerte por un automóvil sin conductor no es solo inevitable, ya está sucediendo. Más recientemente, un automóvil autónomo de Uber atropelló y mató a un peatón en Arizona, mientras que en mayo de 2017, el software semiautónomo falló en un De manera igualmente trágica cuando el Tesla Model S de Joshua Brown condujo debajo del remolque de un camión de 18 ruedas en una carretera mientras estaba en piloto automático modo.
Tesla admite que los sensores de su sistema no pudieron distinguir el remolque blanco contra un cielo brillante, lo que resultó en la muerte prematura del floridano de 40 años. Pero Tesla también dice que los conductores deben mantener las manos en el volante para evitar que ocurran accidentes como este, incluso cuando el piloto automático está activado. A pesar del nombre, es un sistema semiautónomo.
Uber, por otro lado, puede no tener la culpa, según un informe policial preliminar, que culpa a la víctima.
Es un hecho triste que estas tragedias sean solo una muestra de lo que está por venir. Al escribir este artículo, me he dado cuenta de cuán lamentablemente no estamos preparados para el futuro sin conductor, que se espera para 2020. Lo que es más preocupante es que este futuro ya se está derramando en nuestro presente, gracias a sistemas semiautónomos como el piloto automático de Tesla y las pruebas de autos autónomos de Uber (ahora detenidas).
La tecnología del mañana está aquí hoy, y con problemas como la ética y la responsabilidad que ahora son imposibles de evitar, los fabricantes de automóviles no pueden darse el lujo de no estar preparados.
¿Qué sucede cuando un automóvil sin conductor provoca un accidente y, peor aún, mata a alguien?
Entendiendo la muerte por computadora
Para abordar la responsabilidad, debemos preguntarnos cómo y por qué un automóvil sin conductor podría matar a alguien. A diferencia de los humanos, los autos no sufren fatiga, no experimentan furor en la carretera y no pueden beber seis pintas de cerveza antes de llegar a la autopista, pero lata todavía comete errores.
El Model S de Tesla cuenta con tecnología de piloto automático semiautónoma
Podría decirse que la causa más probable de "muerte por automóvil sin conductor" sería si los sensores de un automóvil interpretaran incorrectamente los datos, lo que haría que la computadora tomara una mala decisión de manejo. Si bien cada incidente, fatal o de otro tipo, resultará en arreglos y mejoras, rastrear la responsabilidad sería un viaje legal largo y arduo. Llegaré a eso más tarde.
La segunda posible causa de muerte por automóvil sin conductor es mucho más difícil de resolver, porque se trata de ética.
Imagínese este escenario: viaja en un automóvil sin conductor con su cónyuge, viajando por una carretera B de un solo carril y bordeada de árboles. Hay docenas y docenas de carreteras B como esta en el Reino Unido. El automóvil viaja a 55 mph, que está por debajo del límite de velocidad nacional de 60 mph en esta carretera.
Se acerca una curva ciega, por lo que su automóvil reduce la velocidad a 40 mph más sensibles. Al dar la vuelta a la curva, ve que un niño ha salido corriendo a la carretera desde un sendero público escondido entre los árboles. Su madre entró en pánico y lo siguió, y ahora ambos están en medio del camino. Es un día ventoso y tu coche es eléctrico, por lo que no te oyeron llegar. Los sensores de tu coche no vieron a ninguno de ellos hasta que estuvieron a unos metros de distancia.
No hay posibilidad de frenar a tiempo, por lo que la madre y el niño van a morir si su automóvil no se desvía de inmediato. Si el automóvil se desvía hacia la izquierda, se sale de la carretera y choca contra un árbol; si el automóvil se desvía a la derecha, choca contra un camión autónomo que viene en la dirección opuesta. Está vacío, por lo que usted y su cónyuge serían las únicas víctimas.
En esta situación, el automóvil se ve obligado a tomar una decisión: ¿golpea a los peatones, casi ciertamente los está matando, o arriesga a los pasajeros en la probabilidad de que puedan sobrevivir al accidente. Las respuestas se habrán decidido meses (o incluso años) antes, cuando los algoritmos se programaron originalmente en el sistema informático de su automóvil, y muy bien podrían acabar con su vida. Si bien el automóvil no lo sabrá, de hecho se trata de una decisión ética.
Para demostrar la abrumadora dificultad de codificar la ética, pruebe con el Instituto de Tecnología de Massachusetts Máquina moral. Es un cuestionario que tiene como objetivo rastrear cómo reaccionan los humanos a las decisiones morales que toman los autos sin conductor. Se le presenta una serie de escenarios en los que un automóvil sin conductor tiene que elegir entre dos males (p. Ej. matando a dos pasajeros o cinco peatones) y tienes que elegir cuál crees que es más aceptable. Como se dará cuenta rápidamente, es muy difícil.
¿Qué escenario elegirías? Moral Machine del MIT es una pesadilla autónoma
Si todo esto te asusta, no estás solo. En marzo, una encuesta realizada por la organización automovilística estadounidense AAA reveló que tres de cada cuatro conductores estadounidenses tienen "miedo" de viajar en automóviles autónomos, y el 84% de ellos dijo que era porque confiaban sus propias habilidades de conducción más que las de una computadora, a pesar de la abrumadora evidencia que sugiere que los autos sin conductor son significativamente más seguros: el error humano es el mayor asesino en nuestras carreteras, después de todo.
Entonces, ¿por qué tenemos tanto miedo? Le pregunté al Prof. Luciano Floridi, profesor de Filosofía y Ética de la Información en la Universidad de Oxford, esa misma pregunta.
“Creo que es un miedo ancestral a lo desconocido, miedo a las máquinas. Fueron el Golem y Frankenstein, y ahora es una tecnología que no controlamos por completo en el caso de los autos sin conductor ”, me dice el profesor Floridi. “También parece ser, quizás, una venta engañosa por parte de la industria, donde la seguridad total se vende como una posibilidad, lo que sabemos que no es el caso. Nada es 100% seguro, solo puedes estar más seguro ".
Entonces, aunque los autos sin conductor son más seguros y reducen las posibilidades de muerte de una persona, los conductores luchan por aceptar la idea de que una máquina podría matarlos, en lugar de un error humano.
El bien común contra tu seguridad, ¿quién gana?
El Instituto de Tecnología de Massachusetts encuestó recientemente a 2,000 personas y encontró que el 76% de los encuestados esperaría que un automóvil sin conductor priorizara la seguridad de un grupo de diez peatones sobre un solo pasajero. Muy noble, ¿verdad? En ética, esto se llama "utilitarismo", es decir, cuando se toman decisiones para el bien común.
Pero los seres humanos son animales, y eso significa que la evolución nos ha conectado para protegernos a nosotros mismos ya aquellos que son importantes para nosotros, a menudo a expensas del “bien mayor”, cualquiera que sea.
Es revelador que cuando se les pidió a los encuestados del MIT que calificaran la moralidad de ese mismo automóvil sin conductor, el que se estrellaría y mataría a su propietario para salvar a los peatones - como si ellos mismos fueran un pasajero en el vehículo, la calificación de moralidad del automóvil "ético" cayó por un tercera.
La moraleja de la historia no es una gran sorpresa: a todos nos gusta la idea de vehículos utilitarios sin conductor, hasta que tenemos que viajar en uno. Este sistema de creencias de autoconservación tendrá un efecto agudo en la industria de los automóviles sin conductor. Por ejemplo, ¿qué pasa si los fabricantes de automóviles comienzan a vender sus vehículos sobre una base ética? ¿Podrían diseñarse algunos automóviles para que siempre se esfuercen por obtener un resultado de “mayor beneficio”, mientras que otros se construyen para actuar en beneficio del conductor o los pasajeros?
Pero, aunque el profesor Floridi cree que la ética desempeñará un papel en la comercialización de vehículos sin conductor, no está convencido de que se venderán según su código moral:
“Sería una mala jugada en el lado de la publicidad. Sin embargo, lo que veremos es algún componente ético en la publicidad en general. Si recuerda cuando los automóviles comenzaron a anunciarse como más seguros debido a los cinturones de seguridad, las empresas decían que era mucho más seguro si tenía un accidente. Así será. No es que este código ético sea mejor que ese código ético ".
El profesor Luciano Floridi cree que la ética es uno de los mayores obstáculos para el futuro de los automóviles sin conductor
¿Los coches sin conductor son imposiblemente complicados?
Desafortunadamente para todos nosotros, me dice Floridi, los autos sin conductor están mal equipados para abordar decisiones tan complejas. Él cree que a pesar de todos los esfuerzos de investigación y desarrollo enfocados en traer autos sin conductor en nuestras carreteras, las computadoras son intrínsecamente incapaces de manejar las complejas decisiones morales que conducir demandas.
“La ética es delicada, demasiado sutil, demasiado abierta para un automóvil normal sin conductor”, explica. “El coche que necesito para ir del campo a Londres, o de Londres a Roma, como lo hice cuando era un jovencito sin mucho dinero, ¿te imaginas ese viaje? ¿Alrededor de 2.000 millas de Oxford a Roma y viceversa? En un contexto en el que puede pasar cualquier cosa, es muy difícil imaginar un entorno totalmente descontrolado con un coche sin conductor teniendo éxito, sin que yo tenga la oportunidad de tomar el volante ".
Floridi dice que es "imposible" crear un algoritmo que pueda emular la ética humana en la carretera, porque hay una cantidad infinita de escenarios posibles que pueden surgir al conducir. Da el ejemplo de un gato en el camino:
“Se podría decir 'detente cada vez' que haya un gato, a menos que ¿qué? A menos que haya un camión grande conduciendo a 70 mph detrás de usted y tenga a sus hijos en el auto. En ese momento dices "ve y mata al gato", porque tu familia está en riesgo. Puede multiplicar esto con 'solo si' y 'a menos que' en un sinfín de condiciones ".
¿Por qué es tan dificil? Bueno, es muy fácil informatizar un mundo cerrado, donde podemos comprender cada condición. Pero conducir es un escenario de mundo abierto, donde las condiciones son aleatorias e imposibles de predecir, lo que hace que sea muy difícil de informatizar. Es por esto que Floridi cree que no hay esperanza de que el software para automóviles sin conductor sea lo suficientemente competente desde el punto de vista ético, al menos en las redes de carreteras existentes:
“Imagínese jugando al ajedrez con alguien que saca un arma en algún momento, de su bolsillo, y dice 'no puedes hacer ese movimiento'”, bromea Floridi. “Ese es un tipo diferente de ajedrez. Ninguna computadora puede hacer nada al respecto, no importa lo que le hayamos puesto ".
Floridi dice que para abordar esto, las compañías automotrices ya están consultando con expertos en ética para asegurarse de que su software sea moralmente hermético. Le pedí un ejemplo y me dijo que asistió a una reunión con Audi “donde las cuestiones éticas eran el tema principal precisamente por las implicaciones de los autos sin conductor. Como requiere cualquier tecnología avanzada que desarrollemos, en algún momento el impacto social obliga a una consideración ética ”.
Entonces, ¿quién paga?
Bien, estamos de vuelta al borde de la carretera y el dron paramédico finalmente ha llegado. El sangrado se ha detenido, está lúcido una vez más y está listo para abordar el tema de la compensación. No chocaste tu auto; su coche se estrelló solo, ¿quién está pagando?
“En el derecho penal y en el derecho civil, la cuestión es quién tiene el control del vehículo”, me dice Matthew Claxson, un abogado de lesiones en la carretera de Slater & Gordon. “Para que el operador pudiera decir: 'Bueno, estaba leyendo un periódico y confiaba en la computadora para tomar el control del viaje ", y habría un argumento de que el fabricante del automóvil tendría la responsabilidad. Queda por ver si persiguen más reclamaciones contra los fabricantes de software ".
Relacionado: Apple CarPlay frente a Android Auto
Si una pieza de automóvil, como una caja de cambios, por ejemplo, falla en el Reino Unido hoy, explica Claxson, y la falla fue el resultado de una fabricación poco fiable, y eso el coche mata a alguien, las propiedades de la persona que murió "normalmente demandarían al conductor del coche", o al operador del coche en el caso de un conductor sin conductor auto. La compañía de seguros del conductor luego resuelve el reclamo, pero luego continuaría con una acción adicional contra el fabricante del automóvil "detrás de escena, para recuperar su pérdida".
"Una de las ventajas de la póliza de seguros del Reino Unido es que les da a los que han resultado gravemente heridos o fallecidos un recurso financiero. acuerdo que puede ayudar con el tratamiento médico o pagar los costos del funeral o ayudar a las familias en duelo de alguna manera ”, dice Claxson.
Pero hay un problema que complica las cosas y es la piratería. A principios de este año, se descubrió que el híbrido Mitsubishi Outlander podría ser controlado por piratas informáticos gracias a una vulnerabilidad en el sistema Wi-Fi a bordo del automóvil. Y más recientemente, Fiat Chrysler tuvo que emitir un retiro voluntario de 1.4 millones de vehículos después de un hack que podría apagar el motor de forma remota fue descubierto.
Los autos sin conductor podrían ser pirateados y chocados, entonces, ¿quién paga entonces?
Entonces, si un automóvil sin conductor mata a alguien porque ha sido pirateado, no parece justo responsabilizar al conductor o al fabricante del automóvil. En ese caso, ¿quién paga? Claxson sugiere la siguiente solución:
"Tenemos un proceso en este país en el que si un automóvil es robado y mata o causa lesiones a alguien, ese ladrón desaparece (es decir, es un golpe y fuga), tenemos una organización conocida como la Oficina de Aseguradores de Automóviles, que es un fondo de último recurso creado por el Secretario de Transporte en este país. Eso intervendría en lugar de las víctimas que se dieron a la fuga y las compensaría si son la parte inocente ".
Continúa: "Uno esperaría ver un mecanismo similar como ese en el futuro, que si un automóvil es pirateado y es no es culpa del fabricante o del conductor, es de esperar que haya un fondo similar para ayudar a esas víctimas ".
Los autos sin conductor son una pesadilla de responsabilidad
El mensaje aquí es simple: es bastante fácil asignar responsabilidades cuando los automóviles son completamente autónomos. E incluso en el caso de piratería, aún se puede pagar una compensación. Pero, ¿qué sucede cuando un automóvil no es completamente autónomo y el conductor aún puede controlar el vehículo?
Después de todo, cuando Joshua Brown murió después de que los sensores de su automóvil fallaran a principios de este año, Tesla rápidamente nos recordó su consejo de que el piloto automático "es una función de asistencia que requiere que mantén las manos en el volante en todo momento ". Tesla también agregó: “El piloto automático está mejorando todo el tiempo, pero no es perfecto y aún requiere que el conductor permanezca alerta."
El punto de partida es averiguar exactamente qué tan autónomo es un vehículo. Hay muchos métodos diferentes para hacer esto, pero el más popular (hasta ahora, de todos modos) es el sistema SAE, que tiene seis niveles diferentes de automatización del vehículo:
Nivel 0 – Sin automatización - El desempeño a tiempo completo por parte del conductor humano de todos los aspectos de la conducción.
Nivel 1 – Asistencia al conductor - La ejecución específica del modo de conducción de aceleración, desaceleración o dirección, utilizando información sobre el entorno.
Nivel 2 – Automatización parcial - La ejecución específica del modo de conducción mediante uno o más sistemas de asistencia al conductor tanto de dirección como de aceleración / desaceleración.
Nivel 3 – Automatización condicional - Rendimiento por un sistema de conducción automatizado de todos los aspectos de la tarea de conducción, con la expectativa de que un conductor humano responda a una solicitud de intervención.
Nivel 4 – Alta automatización - El rendimiento de un sistema de conducción automatizado de todos los aspectos de la conducción, incluso si un conductor humano no responde a una solicitud de intervención.
Nivel 5 – Automatización completa - El rendimiento a tiempo completo mediante un sistema de conducción automatizado de toda la tarea de conducción, en todas las condiciones ambientales y de la carretera que puede ser gestionada por un conductor humano.
Relacionado: ¿Qué es el piloto automático Tesla?
Incluso los autos nuevos aún no alcanzan el nivel 5 de autonomía, y hay muchos autos en la carretera que aún no han pasado del nivel 0. Eso significa que, según la ley vigente, si su automóvil tiene un accidente porque no tenía las manos en el volante, ni siquiera en un automóvil semiautónomo, es casi seguro que eres responsable, al menos según Adrian Armstrong, del equipo de investigación de colisiones de la firma forense Keith Borer Consultores:
“Actualmente, es culpa del conductor. Todas las características de seguridad que se agregan, como el Tesla, están diseñadas para ser una adición a la entrada del conductor. No se supone que reemplacen la conciencia del conductor ".
Pero como ha demostrado el caso de Tesla, a medida que los autos se vuelven más autónomos, se vuelve significativamente más difícil asignar responsabilidades.
Demostración de DRIVEnet de Nvidia, que muestra los sensores de los automóviles rastreando objetos en tiempo real
El Departamento de Transporte del Reino Unido sugiere actualmente que la responsabilidad de un vehículo en modo autónomo recae con el fabricante del automóvil, pero cuando el conductor ha recuperado el control, el conductor debe asumir la responsabilidad en lugar de.
El problema es que es difícil para los conductores mantenerse mentalmente comprometidos cuando no están físicamente comprometidos, lo que hace que ese período de "traspaso" sea difícil de resolver en términos de responsabilidad. Algunos estudios han demostrado que los conductores pueden tardar entre 35 y 40 segundos en tomar el control efectivo de un automóvil cuando vuelven al modo autónomo.
Las compañías de seguros están (como era de esperar) muy interesadas en resolver el asunto de la responsabilidad en situaciones incómodas como el dilema de la entrega. Una empresa de seguros que ya está logrando avances significativos en el sector es AXA, como explica Daniel O’Byrne, Director de Asuntos Públicos de la empresa para el Reino Unido:
“Somos socios en tres de las pruebas financiadas por el gobierno que buscan hacer realidad los vehículos sin conductor, conectados o autónomos. Tomaremos el Bowler Wildcat modificado, que ya se puede conducir bajo control remoto, y fue desarrollado militarmente por BAE. Estamos tratando de llevarlo al siguiente nivel con los sensores y el proceso de toma de decisiones, y lo que entramos es mirar eso desde una perspectiva de responsabilidad de seguros ".
O'Byrne dice que la empresa está particularmente interesada en cómo se asigna la responsabilidad durante el período de traspaso. Después de todo, me dice que el gobierno "eventualmente quiere que puedas leer un libro o revisar tu correo electrónico en un iPad", y agrega: "Me sorprendería mucho si para 2020, no puedes simplemente presionar un botón en tu auto y comenzar a leer un libro ". Pero eso es un gran problema, porque significa que el "conductor" no está prestando atención a la carretera. ambiente:
“Si el automóvil cede el control al ser humano, ¿cuánto tiempo es razonable permitir que ese conductor vuelva a asumir la responsabilidad? ¿Puede un conductor pasar de leer un libro a conducir a X millas por hora en cinco segundos? Probablemente eso no sea razonable. Estamos analizando ese aspecto conductual, las universidades están analizando la psicología y cómo reacciona la gente a ese traspaso ".
Ver: Debate sobre la responsabilidad autónoma
A diferencia de EE. UU., No existe ninguna ley en el Reino Unido que diga que debes mantener las manos en el volante. Lo que tenemos en Gran Bretaña es la Ley de Tráfico Vial, que solo obliga a los conductores a prestar "la debida atención y cuidado". Eso suena frustrantemente amplio redacción, pero O’Byrne cree que esta ambigüedad en realidad podría dar al Reino Unido una ventaja frente a otros países cuando se trata de crear un marco de referencia.
“Fuimos signatarios de la Convención de Viena, pero no ratificamos la misma”, dice O'Byrne, refiriéndose a la Convención de Viena sobre Tráfico Vial, que dice que los conductores deben mantener siempre las manos en el volante. “Y, en pocas palabras, aunque la Ley de tráfico por carretera dice que hay que prestar la debida atención y cuidado, no somos tan prescriptivos como otros países diciendo que tienes que mantener las manos en el volante en todo momento, lo que potencialmente nos permite un cambio de ley más fácil que, digamos, Alemania."
El Venturer Consortium, que es el grupo de prueba de autos sin conductor del que AXA forma parte, está probando actualmente el desempeño del conductor durante el proceso de transferencia en diferentes escenarios. Los resultados de esta prueba serán extremadamente útiles para determinar quién es responsable y, con suerte, revelarán cuánto tiempo razonablemente tiene un conductor para recuperar el control total de un vehículo.
Una vez que las compañías de seguros y los legisladores lleguen a una conclusión conjunta sobre esto, debería ser más fácil establecer un período estándar de tiempo para que los conductores recuperen el control de un vehículo sin conductor. Eso debería hacer que sea mucho más fácil determinar quién es responsable, porque el cambio de los sistemas autónomos al control del conductor se puede rastrear fácilmente a nivel de software. Y eso significa que asignar la culpa es casi tan fácil como lo es hoy.
Los Bowler Wildcats están actualmente modificados para las pruebas de automóviles sin conductor en el Reino Unido.
¿Valen la pena todo este esfuerzo los coches sin conductor?
Seamos justos: cuando gigantes de la industria como Tesla, Google y Ford le dicen que estaremos más seguros con los autos sin conductor, tienen toda la razón. A medida que los automóviles comiencen a depender menos de la participación humana, menos personas morirán en las carreteras.
Según datos de la OCDE, se produce una muerte una vez por cada 53,4 millones de millas conducidas por automóviles, como promedio en los 20 países de la UE incluidos en la muestra. En los Estados Unidos, los estándares de seguridad vial mejores que el promedio reducen esa cifra a una muerte por cada 94 millones de millas. Pero ya se han conducido más de 130 millones de millas con el piloto automático de Tesla activado, con solo una muerte en los libros.
Parte del atractivo de los autos sin conductor es el hecho de que elimina el error humano, que según AXA representa el 94% de todos los accidentes de conducción. El CDC dice que más del 30% de las muertes en carreteras en los Estados Unidos involucran alcohol. Y en el Reino Unido, el Departamento de Transporte calcula esa cifra en alrededor de uno de cada seis. Si nos despertamos mañana y todos los coches son autónomos, la conducción bajo los efectos del alcohol desaparece de la noche a la mañana.
Se pone aún mejor: según el Eno Center for Transportation, si el 90% de todos los vehículos en las carreteras en Estados Unidos fuera autónomo, el número de accidentes de tráfico se reduciría de 5,5 millones por año a solo 1,3 millón. Ese futuro tampoco está tan lejano, y el Instituto de Ingenieros Eléctricos y Electrónicos predice que para 2040, alrededor del 75% de todos los vehículos serán completamente autónomos.
El mayor desafío para los autos sin conductor que se generalizan es lograr que el público esté de su lado. Sin soluciones adecuadas para los problemas relacionados con la ética y la responsabilidad, es seguro que la opinión pública se mantendrá helada en el futuro previsible.
Los fabricantes de automóviles pueden hablar de la tecnología hasta que se pongan tristes, pero si un fabricante no puede decirle a una esposa en duelo por qué el hatchback de su esposo lo arrojó por un precipicio, o incluso a pagar la compensación, entonces los autos sin conductor probablemente serán sin pasajeros también.
Este artículo se publicó originalmente en 2016. En ese momento, Tesla no respondió a nuestra solicitud de entrevista.
¿Daría la bienvenida a un futuro de coche sin conductor? Cuéntenos sus pensamientos enviándonos un tweet a @TrustedReviews.