El autobús escolar amarillo brillante, un faro de la rutina infantil, encendió sus luces e extendió su señal de pare. Pero en lugar de la pausa esperada, un robotaxi de Waymo pasó de largo, aparentemente ajeno a los niños que potencialmente cruzaban la calle. Este no fue un incidente aislado. Más de veinte situaciones similares de cuasi accidentes en Austin, Texas, y otros lugares han llamado la atención de la Junta Nacional de Seguridad en el Transporte (NTSB), lo que ha desencadenado una investigación formal sobre la tecnología de conducción autónoma de Waymo.

La investigación de la NTSB marca una escalada significativa en el escrutinio de Waymo, un actor líder en la industria de vehículos autónomos (AV). Si bien los coches autónomos prometen mayor seguridad y eficiencia, estos incidentes resaltan los complejos desafíos de programar vehículos para navegar por escenarios impredecibles del mundo real, especialmente aquellos que involucran a usuarios vulnerables de la vía pública como los niños. Esta es la primera vez que Waymo es investigada por la NTSB, pero sigue a una investigación similar iniciada en octubre por la Administración Nacional de Seguridad del Tráfico en las Carreteras (NHTSA).

En el corazón del problema está el software de Waymo, el intrincado código que dicta cómo sus vehículos perciben y reaccionan a su entorno. El sistema se basa en una combinación de sensores: cámaras, lidar (detección y alcance de luz) y radar, para construir un modelo 3D del entorno. Estos datos son luego procesados por algoritmos sofisticados que identifican objetos, predicen sus movimientos y planifican una ruta segura. Sin embargo, los incidentes recientes sugieren una falla crítica: el sistema no está reconociendo ni respondiendo consistentemente a las señales visuales de un autobús escolar detenido.

"La NTSB está preocupada por el riesgo potencial para los niños", dijo un portavoz en un comunicado a TechCrunch. "Nuestra investigación se centrará en el rendimiento del sistema de conducción autónoma de Waymo en estas situaciones, incluida su capacidad para detectar y reaccionar a las señales de los autobuses escolares y la actividad peatonal". Los investigadores se dirigen a Austin para recopilar datos, incluyendo grabaciones de video, registros de sensores y entrevistas con ingenieros de Waymo y funcionarios locales. Se espera un informe preliminar en un plazo de 30 días, con un informe final más completo en un plazo de 12 a 24 meses.

Waymo emitió un retiro de software en diciembre para abordar el problema, pero los incidentes repetidos sugieren que el problema es más complejo de lo que se entendió inicialmente. Un retiro de software en la industria automotriz es similar a una actualización de parche en el mundo de la tecnología. Es una medida correctiva implementada para abordar un defecto conocido que podría comprometer la seguridad. En el caso de Waymo, el retiro inicial tenía como objetivo mejorar la capacidad del sistema para reconocer y responder a las señales de los autobuses escolares. Sin embargo, la continua ocurrencia de estos incidentes indica que la solución inicial fue insuficiente.

El Distrito Escolar Independiente de Austin ha expresado serias preocupaciones, solicitando más acciones por parte de Waymo para garantizar la seguridad de los estudiantes. "Estamos profundamente preocupados por estos incidentes y hemos comunicado nuestras preocupaciones a Waymo", dijo un representante del distrito. "La seguridad de nuestros estudiantes es nuestra principal prioridad, y esperamos que Waymo tome medidas inmediatas y efectivas para evitar que estas situaciones vuelvan a ocurrir".

La investigación de la NTSB podría tener implicaciones de gran alcance para toda la industria de vehículos autónomos. Subraya la importancia de las pruebas y la validación rigurosas, particularmente en casos extremos: escenarios inusuales o inesperados que pueden desafiar incluso a los sistemas de IA más avanzados. "Este es un momento crítico para la industria de los AV", dice la Dra. Emily Carter, profesora de robótica en la Universidad de Stanford. "Destaca la necesidad de un enfoque más robusto y transparente para la validación de la seguridad. Necesitamos ir más allá de simplemente demostrar que estos sistemas funcionan en condiciones ideales y centrarnos en garantizar que puedan manejar las complejidades e incertidumbres del mundo real".

El resultado de la investigación de la NTSB podría conducir a regulaciones y supervisión más estrictas de la tecnología de vehículos autónomos. También puede impulsar a Waymo y a otros desarrolladores de AV a invertir en tecnología de sensores más sofisticada, algoritmos mejorados y protocolos de prueba más completos. A medida que los vehículos autónomos se integran cada vez más en nuestro sistema de transporte, garantizar su seguridad y fiabilidad es primordial. El futuro de los coches autónomos depende de la construcción de la confianza pública, y esa confianza solo se puede ganar a través de una seguridad demostrable y un compromiso de priorizar las vidas humanas por encima de todo. El camino a seguir para Waymo, y para toda la industria de los AV, está ahora bajo intenso escrutinio.