La división de cruceros de vehículos autónomos de GM ya está atravesando una mala racha, y el Departamento de Vehículos Motorizados de California (DMV) suspendió recientemente sus permisos sin conductor por cuestiones de seguridad. Ahora, varios informes nuevos han destacado otros problemas con la empresa, incluidos problemas con sus vehículos autónomos (AV) que reconocen a los niños y la frecuencia con la que los operadores humanos deben tomar el control de forma remota. La compañía también acaba de anunciar que suspenderá temporalmente la producción de su transporte Origin totalmente autónomo.
El problema más preocupante es que, según se informa, Cruise mantuvo sus vehículos en las calles a pesar de que sabía que tenían problemas para reconocer a los niños. La intercepción informó. Según materiales de evaluación de seguridad internos, no informados anteriormente, es posible que los vehículos autónomos de Cruises no hayan podido detectar eficazmente a los niños para tomar precauciones adicionales.
«Los vehículos autónomos de crucero no pueden tener cuidados adicionales con los niños», afirma el documento. Por eso, a la empresa le preocupaba que sus robotaxis pudieran conducir demasiado rápido cerca de niños que podrían moverse inesperadamente en la calle. Cruise también carece de datos sobre situaciones específicas de niños, como niños que se separan de los adultos, caídas, andar en bicicleta o usar disfraces.
En una simulación, la empresa no pudo descartar un escenario en el que un vehículo atropelle a un niño. En otra prueba de manejo específica, un vehículo detectó un muñeco del tamaño de un niño pero aun así lo golpeó con un espejo a 28 MPH. La compañía atribuyó los problemas a un software y pruebas inadecuados; específicamente, carece de software de inteligencia artificial que pueda detectar automáticamente objetos con forma de niños alrededor del automóvil y maniobrar en consecuencia.
En una declaración a La intercepción, Cruise admitió que sus vehículos a veces perdían temporalmente la pista de los niños al costado de la carretera durante las pruebas de simulación. Agregó que el problema se solucionó y solo se vio en las pruebas y no en la vía pública, aunque no dijo qué acciones específicas se tomaron para resolver el problema. Un portavoz también afirmó que el sistema no había fallado en detectar a los niños, pero sí en clasificarlos como tales.
Afirmó además que las probabilidades de que se produjera un accidente con niños eran relativamente bajas. «Determinamos, a partir del desempeño observado en la carretera, que el riesgo de una posible colisión con un niño podría ocurrir una vez cada 300 millones de millas al conducir una flota, lo cual hemos mejorado desde entonces. No ha habido colisiones en la carretera con niños».
El informe también señala que los Cruise AV tienen problemas para detectar grandes agujeros en la carretera, como fosos en obras de construcción con cuadrillas de trabajo dentro, algo que la propia compañía calificó de «riesgo importante». Los propios documentos de GM indicaban que incluso con su pequeña flota de vehículos autónomos, era probable que un vehículo entrara en un agujero de este tipo al menos una vez al año, y en un pozo con gente dentro una vez cada cuatro años.
Ese escenario casi sucedió, según el video revisado por La intercepción. Las cámaras a bordo muestran un vehículo autónomo conduciendo hasta el borde de un pozo, a centímetros de los trabajadores, a pesar de la presencia de conos de construcción. Sólo se detuvo porque alguien agitó una señal de «lento» delante del parabrisas.
«Mejorar la capacidad de nuestro AV para detectar peligros potenciales alrededor de zonas de construcción ha sido un área de enfoque, y en los últimos años hemos realizado extensas pruebas y simulaciones supervisadas por humanos que han resultado en mejoras continuas», dijo la compañía en un comunicado. «Estos incluyen una detección mejorada de conos, evitar por completo las zonas de construcción con excavaciones u otras operaciones complejas, y la habilitación inmediata del soporte/supervisión de Asistencia Remota del AV por parte de observadores humanos».
Todo eso plantea la cuestión de si Cruise debería operar sus vehículos en la vía pública. «Si no puedes ver a los niños, es muy difícil para ti aceptar que no es un alto riesgo, no importa cuán infrecuente creas que va a suceder», dijo Phil Koopman, profesor de ingeniería de Carnegie Mellon. La intercepción.
El problema de la detección de niños no es la única exposición reciente sobre Cruise, ya que resulta que los robotaxis no son realmente autónomos en absoluto. De hecho, necesitan asistencia humana cada cuatro o cinco millas, según un informe publicado en Los New York Times confirmado en gran parte por el CEO de Cruise, Kyle Vogt, en Noticias de piratas informáticos.
«Los AV de crucero reciben asistencia remota (RA) entre un 2 y un 4 por ciento del tiempo en promedio, en entornos urbanos complejos». escribió Vogt. Eso equivale a que alguien intervenga cada cuatro o cinco millas, lo que podría ser varias veces en muchos viajes. Normalmente hay un asistente remoto «por cada 15-20 vehículos autónomos sin conductor», afirmó Cruise más tarde.
En una declaración a CNBCla empresa proporcionó detalles adicionales: «A menudo, el AV inicia de forma proactiva estos [remote assistance actions] antes de estar seguro necesitará ayuda, como cuando el camino previsto del AV está obstruido (por ejemplo, bloqueos de construcción o desvíos) o si necesita ayuda para identificar un objeto», escribió un portavoz. «La asistencia remota está en sesión entre el 2 y el 4 por ciento de los el tiempo que el AV está en la carretera, que es mínimo, y en esos casos el asesor de RA proporciona información de orientación al AV, no lo controla de forma remota».
Finalmente, parece que Cruise detuvo la producción de su vehículo autónomo Origin después de que el DMV de California le retirara la licencia. Forbes informó. En una reunión general con los empleados, Vogt, refiriéndose a la retirada de la licencia del DMV, afirmó que «debido a que mucho de esto está cambiando, tomamos la decisión con GM de pausar la producción del Origin», según un audio del reunión. Un portavoz de GM confirmó más tarde a Engadget que «estamos terminando la producción de una pequeña cantidad de vehículos precomerciales y después de eso, planeamos pausar temporalmente la producción».
Cruise todavía opera sus vehículos autónomos en California, pero ahora debe tener un conductor humano de respaldo al volante. Mientras tanto, California dice que le ha dado a Cruise un camino de regreso a la operación sin conductor. “El DMV le ha proporcionado a Cruise los pasos necesarios para solicitar el restablecimiento de sus permisos suspendidos, que el DMV no aprobará hasta que la compañía haya cumplido con los requisitos a satisfacción del departamento. ”, dijo en un comunicado.
Actualización, 7 de noviembre de 2023, 12:44 p.m. ET: Se agregó una declaración de GM confirmando la pausa.