Tesla se prepara para su primera prueba que involucra la muerte del piloto automático

Durante más de la última década, los vehículos autónomos (AV) han sido una historia importante en la industria automotriz, capturando titulares e imaginación en todo el mundo. Esa narrativa continúa tomando forma y pasando de la historia a la realidad, y el Instituto de Seguros para la Seguridad en las Carreteras (IIHS) predice que habrá 3,5 millones de automóviles sin conductor en las carreteras de Estados Unidos para 2025.

Sin embargo, además de miles de millones de dólares de inversión e innumerables horas de ingeniería e investigación, los vehículos autónomos también han planteado nuevas preguntas sobre seguridad y protección a la industria. A medida que más vehículos autónomos empiezan a salir a la calle para uso público y privado, estas cuestiones sobre la seguridad personal e incluso nacional se vuelven cada vez más relevantes (y cada vez más urgentes).

En enero de 2023, el director del FBI, Christopher Wray, habló en el debate del Foro Económico Mundial sobre Tecnología y Seguridad Nacional en Davos, Suiza, sobre las amenazas potenciales que plantean los vehículos autónomos. Mencionó que los antivirus podrían utilizarse como herramientas para dañar a las personas y como fuente de datos personales valiosos y vulnerables.

"Cuando se habla de vehículos autónomos, obviamente es algo que nos entusiasma, como a todo el mundo", dijo Wray. "Pero hay daños contra los que debemos protegernos que son más que simples".

Wray describió los vehículos autónomos como una posible nueva superficie de "ataque" que los terroristas pueden utilizar para dañar a los civiles. Haciendo referencia a la actual invasión rusa de Ucrania, analizó cómo la actividad de vigilancia en línea puede ser una señal temprana de un próximo intento de ciberataque. También mencionó que el FBI y otras agencias han notado un aumento en las actividades de vigilancia digital dentro de los EE. UU. por parte de actores externos.

"Estamos cada vez más preocupados de que la actividad de vigilancia (el escaneo, la investigación, toda la actividad preparatoria) pueda ser una cosa, un indicio de algo más serio", dijo Wray.

El director del FBI también habló sobre el potencial de uso malicioso de los datos personales recopilados por los vehículos autónomos.

"Otro tipo de daño que nos preocupa es la enorme cantidad de datos que agregan los vehículos autónomos, por ejemplo", dijo Wray. "Y cada vez que se agregan muchísimos datos confidenciales, se convierte en un objetivo muy tentador".

Las declaraciones de Wray en Davos no son sólo teóricas. Ya existen ejemplos del mundo real de lo vulnerables que pueden ser los coches autónomos. En sus comentarios, Wray hizo referencia a una historia sobre una forma sencilla en que los investigadores pudieron engañar a un Tesla automatizado.

"Estoy pensando en una historia que escuché no hace mucho sobre los investigadores que fueron capaces de engañar al algoritmo de un coche autónomo básicamente poniendo un trozo de cinta negra sobre una señal de alto", dijo al panel. "Hizo que el auto acelerara, a unas 50 millas por hora o algo así".

Los detalles de la historia a la que hace referencia Wray difieren ligeramente de su anécdota, pero las preocupaciones que generó son las mismas.

En 2020, investigadores de McAfee utilizaron un trozo de cinta adhesiva para cambiar una señal de límite de velocidad de 35 millas por hora a 85 millas por hora. El equipo informó que esto resultó en que el control de crucero del Tesla acelerara automáticamente a 50 millas por hora.

Los investigadores utilizaron un Tesla Model S y Model X 2016 en su prueba. Tesla dijo que los modelos posteriores no tenían la misma vulnerabilidad, que se atribuyó a una cámara desarrollada por Mobileye. Independientemente, el equipo de pruebas de McAfee reveló solo una de las formas en que se pueden manipular los AV.

Incluso si los ingenieros de Tesla y otros fabricantes de automóviles que producen vehículos autónomos hayan rectificado la vulnerabilidad específica expuesta por los investigadores de McAfee, existen otras amenazas potenciales. Uno de los principales riesgos son los ciberataques por parte de piratas informáticos.

En 2015, dos profesionales de la ciberseguridad demostraron cómo alguien podía piratear un vehículo y tomar el control de él de forma remota. Chris Valasek y Charlie Miller, director de Investigación de Seguridad de Vehículos en IOActive e investigador de seguridad en Twitter en ese momento, respectivamente, pudieron piratear un Jeep Cherokee y controlar su radio y otras funciones. Andy Greenberg, reportero de Wired, condujo el auto mientras estaba bajo el control de Valasek y Miller y escribió sobre su experiencia.

"Aunque no había tocado el tablero, las rejillas de ventilación del Jeep Cherokee comenzaron a expulsar aire frío al máximo, enfriando el sudor de mi espalda a través del sistema de control de clima del asiento", escribió Greenberg. "A continuación, la radio cambió a la estación de hip hop local y comenzó a reproducir Skee-lo a todo volumen. Giré la perilla de control hacia la izquierda y presioné el botón de encendido, sin éxito. Luego se encendieron los limpiaparabrisas y el líquido del limpiaparabrisas empañó el vidrio. ".

Después de controlar algunas de las funciones electrónicas del vehículo, Valasek y Miller pasaron a una hazaña más seria: cortaron la transmisión del Jeep mientras estaba en movimiento.

"Inmediatamente mi acelerador dejó de funcionar", escribió Greenberg. "Mientras presionaba frenéticamente el pedal y observaba cómo subían las RPM, el Jeep perdió la mitad de su velocidad y luego disminuyó lentamente. Esto ocurrió justo cuando llegué a un largo paso elevado, sin arcén que me ofreciera un escape. El experimento había dejado de ser divertido."

Si bien esta demostración tuvo lugar en un entorno controlado, proporcionó pruebas de que los automóviles cada vez más conectados eran pirateables. También ofreció una idea de cuán graves podrían ser las consecuencias de tal ataque.

En particular, el Jeep Cherokee Valasek y Miller pirateado no era un automóvil autónomo. En una entrevista con Automoblog, el ingeniero de seguridad y desarrollador de software Zac Morris dijo que una creciente dependencia de componentes controlados electrónicamente abre un riesgo para todos los vehículos, y no sólo para los autónomos.

"Es muy probable que los vehículos que no conducen por sí solos sean atacables de la misma manera que los vehículos autónomos", dijo Morris. "Hoy en día, la mayoría de los automóviles se conducen por cable. El volante y los pedales en realidad no están conectados mediante hardware a las ruedas, los frenos y el acelerador. En cambio, funcionan a través de la unidad de control electrónico, que modula todo lo que ingresa combinado con funciones. calculado por las funciones de asistencia al conductor del vehículo. Esto incluye cosas como asistencia de dirección y características de seguridad como prevención de deslizamiento y frenos antibloqueo".

Pero si bien los automóviles no autónomos también corren el riesgo de ser pirateados, Morris sugirió que la naturaleza de los vehículos sin conductor y los desarrollos tecnológicos que los rodean podrían exacerbar los efectos de un pirateo.

"Por ejemplo, mi coche tiene IA básica para la función de asistencia de carril", dijo. "Pero mi auto también tiene volante. Incluso cuando está haciendo el asistente de carril, al menos le presto mayor atención. Entonces, si el auto intenta llevarme a la mediana a 80 millas por hora, Es más probable que lo pille antes de que me mate. Tesla quiere quitar los volantes de los coches".

Morris dijo que si bien los vehículos autónomos no son inherentemente más o menos pirateables que los automóviles no autónomos, los conductores de vehículos autónomos podrían ser menos capaces de contrarrestar un ataque cibernético en la carretera.

"Simplemente no hay mucho que puedas hacer para detenerlo cuando cada entrada que tú como 'conductor' tienes para controlar el auto pasa por la unidad de control que está siendo manipulada", dijo. "La falta de cualquier consideración por parte del conductor significa que lograr un daño real será más fácil".

En su discurso, el director del FBI también mencionó la preocupación por la seguridad de los datos personales. Sin embargo, Wray no es el único funcionario del gobierno que ha planteado estas preocupaciones.

En septiembre de 2021, la Cámara de Representantes formó el grupo de acceso a datos de vehículos, un comité bipartidista centrado en cuestiones de datos de conductores. En ese momento, el representante Earl "Buddy" Carter (R-GA), quien anunció la formación del caucus, habló sobre el propósito del grupo en un comunicado de prensa.

"Debemos asegurarnos de que los usuarios tengan acceso a los datos que se recopilan de [los recolectores de datos] y que la información esté protegida de malos actores aquí y en el extranjero", dijo Carter. "La privacidad, la seguridad y la innovación deberían ir de la mano".

Los programas telemáticos, que las compañías de seguros utilizan para monitorear el comportamiento de los conductores y ajustar las primas, son uno de los principales puntos focales del comité. Estos programas rastrean los comportamientos de conducción, como la velocidad, el frenado e incluso los movimientos del conductor dentro del vehículo, y los informan a las compañías de seguros privadas. Sin embargo, Morris dijo que la afluencia de tecnología en los automóviles también es motivo de preocupación sobre la privacidad de los datos.

"Los automóviles modernos tienen cámaras y micrófonos por todas partes, por dentro y por fuera", dijo. "También tienen una gran cantidad de otras fuentes de datos".

Los vehículos Tesla de la generación actual, por ejemplo, cuentan con nueve cámaras en total: ocho en el exterior y una en el interior. Estas cámaras ayudan en las funciones de piloto automático de los vehículos al monitorear constantemente su entorno y medir distancias entre objetos, velocidad, movimiento y otras variables. También pueden registrar accidentes y otros eventos de tráfico para proporcionar un registro del incidente.

Sin embargo, las cámaras continúan funcionando cuando los vehículos están apagados y desocupados. Esto les permite cumplir una función de vigilancia, aparentemente como una característica antirrobo y antivandalismo.

Pero en abril de 2023, Reuters informó que los empleados de Tesla habían estado compartiendo videos entre ellos y, a veces, con personas ajenas a la organización. En su aviso de privacidad, la empresa dice que "las grabaciones de la cámara permanecen anónimas y no están vinculadas a usted ni a su vehículo". Sin embargo, los videos también contienen datos de ubicación, lo que permite a las personas con acceso determinar dónde estaba estacionado un vehículo en el momento de la grabación, a menudo en la casa de una persona.

Tesla dijo que sólo recibía vídeos con el consentimiento del propietario y que había dejado de recibir vídeos de coches que estaban inactivos. Pero Reuters informó comentarios de empleados de Tesla que dijeron que podían ver espacios privados como el interior del garaje de una persona en los videos que recibieron, destacando el potencial de mal uso.

Los vehículos autónomos requieren funciones como cámaras y detección y alcance de luz (LiDAR) para navegar por sus entornos de forma segura. Pero al hacerlo, generan enormes cantidades de datos sobre los conductores dentro del vehículo y el mundo que lo rodea. Lo que los malos actores podrían hacer con esos datos todavía es una cuestión de especulación, pero Morris dijo que muchos aún no han considerado plenamente el tema de la recopilación de datos automotrices.

"Estamos creando una cantidad masiva de drones de vigilancia sobre ruedas por los que pagamos dinero", dijo.

A pesar de las preocupaciones sobre los riesgos de seguridad y la privacidad de los datos relacionados con los vehículos autónomos y las funciones de automatización de otros automóviles, los investigadores e ingenieros continúan impulsando su desarrollo en los sectores público y privado. Un equipo de investigadores de la Facultad de Ingeniería de la Universidad A&T de Carolina del Norte, por ejemplo, espera lanzar un programa piloto de transbordador automatizado este otoño. En junio, se informó que Waymo, una filial de Google, y otras empresas audiovisuales están buscando la aprobación de los funcionarios de la ciudad de San Francisco para lanzar flotas de taxis autónomos.

Está claro que estas preocupaciones no están frenando el progreso del desarrollo antivirus. Pero los comentarios de Wray en Davos sugieren que las cuestiones de los riesgos de seguridad en torno a los vehículos autónomos y la privacidad de los datos están en el radar del gobierno. El director del FBI expresó sentimientos similares sobre la necesidad de equilibrar la innovación con la seguridad, como lo expresó el representante Carter cuando formó el grupo de Acceso a Datos de Vehículos.

"Cuando se habla de vehículos autónomos, obviamente es algo que nos entusiasma, como a todo el mundo", dijo Wray. "Pero hay daños contra los que debemos protegernos que son más que simples".

Queda por ver si las agencias gubernamentales preocupadas por los problemas de seguridad y privacidad relacionados con los vehículos autónomos intentarán resolver esos problemas mediante regulaciones y otras acciones. Morris dijo que cree que aún deben abordarse adecuadamente en los sectores público y privado. Sin embargo, dijo que todavía cree que los vehículos autónomos todavía tienen el potencial de ser beneficiosos y hacer que las carreteras sean menos peligrosas.

"Los defensores de los vehículos autónomos tienen razón en que si pueden alcanzar el nivel cuatro de desarrollo de vehículos autónomos, los vehículos serán más seguros", afirmó Morris. "Cuando lo piensas, es una locura que dejemos que los humanos controlen máquinas de 3500 libras que pueden ir a 140 millas por hora".

Esta historia fue producida por Automoblog y revisada y distribuida por Stacker Media.

Tesla se defenderá por primera vez en un juicio contra las acusaciones de que la falla de su función de asistente de conducción Autopilot provocó la muerte, en lo que probablemente será una prueba importante de las afirmaciones del presidente ejecutivo, Elon Musk, sobre la tecnología.

La capacidad de conducción autónoma es fundamental para el futuro financiero de Tesla, según Musk, cuya propia reputación como líder en ingeniería está siendo cuestionada con acusaciones de los demandantes en una de las dos demandas de que él personalmente lidera el grupo detrás de la tecnología que fracasó. Las victorias de Tesla podrían aumentar la confianza y las ventas del software, que cuesta hasta 15.000 dólares por vehículo.

Tesla se enfrenta a dos pruebas en rápida sucesión, a las que seguirán más.

La primera, prevista para mediados de septiembre en un tribunal estatal de California, es una demanda civil que contiene acusaciones de que el sistema de piloto automático provocó que el Model 3 del propietario Micah Lee se desviara repentinamente de una carretera al este de Los Ángeles a 65 millas por hora y chocara contra una palmera. y estalló en llamas, todo en el lapso de segundos.

El accidente de 2019, que no se había informado anteriormente, mató a Lee e hirió gravemente a sus dos pasajeros, incluido un niño de 8 años que fue destripado. La demanda, presentada contra Tesla por los pasajeros y el patrimonio de Lee, acusa a Tesla de saber que el piloto automático y otros sistemas de seguridad estaban defectuosos cuando vendió el automóvil.

El segundo juicio, programado para principios de octubre en un tribunal estatal de Florida, surgió de un accidente en 2019 al norte de Miami, donde el Modelo 3 del propietario Stephen Banner pasó debajo del remolque de un camión grande de 18 ruedas que se había detenido en la carretera, cortando el techo del Tesla y matando a Banner. El piloto automático no frenó, giró ni hizo nada para evitar la colisión, según la demanda presentada por la esposa de Banner.

Tesla negó responsabilidad por ambos accidentes, culpó al error del conductor y dijo que el piloto automático es seguro cuando es monitoreado por humanos. Tesla dijo en documentos judiciales que los conductores deben prestar atención a la carretera y mantener las manos en el volante.

"Hoy en día no hay coches autónomos en las carreteras", afirmó la empresa.

Es probable que el proceso civil revele nueva evidencia sobre lo que Musk y otros funcionarios de la compañía sabían sobre las capacidades de Autopilot y cualquier posible deficiencia. Los abogados de Banner, por ejemplo, argumentan en un expediente judicial previo al juicio que los correos electrónicos internos muestran que Musk es el “líder de facto” del equipo Autopilot.

Tesla y Musk no respondieron a las preguntas enviadas por correo electrónico de Reuters para este artículo, pero Musk no ha ocultado su participación en la ingeniería de software de conducción autónoma, y ​​a menudo tuitea sobre sus pruebas de conducción de un Tesla equipado con software de “conducción totalmente autónoma”. . Durante años ha prometido que Tesla alcanzaría la capacidad de conducción autónoma sólo para no alcanzar sus propios objetivos.

Tesla ganó una prueba de referencia en Los Ángeles en abril con la estrategia de decir que les dice a los conductores que su tecnología requiere monitoreo humano, a pesar de los nombres de “Piloto automático” y “Conducción totalmente autónoma”. El caso se trataba de un accidente en el que un Model S se desvió hacia la acera e hirió a su conductor, y los jurados dijeron a Reuters después del veredicto que creían que Tesla advirtió a los conductores sobre su sistema y que la culpa era de la distracción del conductor.

Lo que está en juego para Tesla es mucho mayor en las pruebas de septiembre y octubre, las primeras de una serie relacionada con el piloto automático este año y el próximo, porque murió gente.

"Si Tesla respalda muchas victorias en estos casos, creo que obtendrán acuerdos más favorables en otros casos", dijo Matthew Wansley, ex asesor general de nuTonomy, una startup de conducción automatizada y profesor asociado de derecho en Facultad de Derecho Cardozo.

Por otro lado, “una gran pérdida para Tesla, especialmente con una gran indemnización por daños” podría “dar forma dramáticamente a la narrativa en el futuro”, dijo Bryant Walker Smith, profesor de derecho en la Universidad de Carolina del Sur.

En documentos judiciales, la compañía argumentó que Lee consumió alcohol antes de ponerse al volante y que no está claro si el piloto automático estaba activado en el momento del accidente.

Jonathan Michaels, abogado de los demandantes, se negó a comentar sobre los argumentos específicos de Tesla, pero dijo que "somos plenamente conscientes de las falsas afirmaciones de Tesla, incluidos sus vergonzosos intentos de culpar a las víctimas por su conocido sistema de piloto automático defectuoso".

En el caso de Florida, los abogados de Banner también presentaron una moción argumentando que se justificaban daños punitivos. Los abogados depusieron a varios ejecutivos de Tesla y recibieron documentos internos de la compañía que, según dijeron, muestran que Musk y los ingenieros estaban al tanto de las deficiencias y no las solucionaron.

En una declaración, el ex ejecutivo Christopher Moore testificó que el piloto automático tiene limitaciones y dijo que “no está diseñado para detectar todos los posibles peligros o todos los posibles obstáculos o vehículos que podrían estar en la carretera”, según una transcripción revisada por Reuters.

En 2016, unos meses después de un accidente fatal en el que un Tesla chocó contra un camión semirremolque, Musk dijo a los periodistas que el fabricante de automóviles estaba actualizando el Autopilot con sensores de radar mejorados que probablemente habrían evitado la fatalidad.

Pero Adam (Nicklas) Gustafsson, un ingeniero de sistemas de piloto automático de Tesla que investigó ambos accidentes en Florida, dijo que en los casi tres años transcurridos entre ese accidente de 2016 y el de Banner, no se realizaron cambios en los sistemas de piloto automático para tener en cuenta el tráfico cruzado, según documentos judiciales presentados por los abogados demandantes.

Los abogados intentaron culpar a Musk de la falta de cambios. "Elon Musk ha reconocido problemas con el sistema de piloto automático de Tesla que no funciona correctamente", según los documentos de los demandantes. El ex ingeniero de piloto automático Richard Baverstock, que también fue depuesto, afirmó que "casi todo" que hizo en Tesla se hizo a petición de "Elon", según los documentos.

Tesla presentó una moción de emergencia ante el tribunal a última hora del miércoles buscando mantener en secreto las transcripciones de las declaraciones de sus empleados y otros documentos. El abogado de Banner, Lake “Trey” Lytal III, dijo que se opondría a la moción.

"Lo mejor de nuestro sistema judicial es que las corporaciones multimillonarias sólo pueden guardar secretos durante un tiempo", escribió en un mensaje de texto.

Tesla anunció el lanzamiento de su software beta para vehículos "totalmente autónomos" a un pequeño grupo de propietarios de Tesla.

Actualmente en Kennewick

Lo sentimos, no hay resultados recientes para artículos comentados populares.

Regístrese para recibir noticias de última hora, pronósticos meteorológicos y más en la bandeja de entrada de su correo electrónico.

Regístrate ahora