Un fantasma digital en la máquina, un conductor fantasma tomando decisiones que desafían las normas de circulación. Esa es la inquietante imagen que evoca la investigación en curso sobre el sistema Full Self-Driving (FSD) de Tesla. La Administración Nacional de Seguridad del Tráfico en las Carreteras (NHTSA) está profundizando, dando a Tesla otras cinco semanas para responder a una solicitud exhaustiva de información sobre incidentes en los que vehículos equipados con FSD supuestamente ignoraron las señales de tráfico y se desviaron hacia el tráfico que venía en sentido contrario. No se trata solo de fallos de software; es un drama de alto riesgo que se desarrolla en nuestras calles, planteando cuestiones fundamentales sobre la seguridad y la fiabilidad de los vehículos impulsados por IA.

La investigación actual, iniciada a finales del año pasado, marca otro capítulo más en la compleja relación entre Tesla y los reguladores. En su núcleo se encuentra el FSD, un sistema de asistencia al conductor de nivel 2 que Tesla comercializa como capaz de una autonomía total, aunque los conductores deben permanecer atentos y listos para intervenir. Sin embargo, más de 60 quejas han pintado un panorama preocupante: Teslas, operando bajo FSD, aparentemente ignorando las luces rojas y cruzando a carriles opuestos, poniendo potencialmente en peligro a conductores y peatones.

La solicitud de la NHTSA es exhaustiva, exigiendo un desglose detallado de cada Tesla vendido o arrendado en los EE. UU., especificando la inclusión y la versión del FSD. La agencia también busca datos acumulativos sobre el uso del FSD, un tesoro de información que podría revelar patrones y anomalías en el rendimiento del sistema. Además, Tesla debe proporcionar una lista exhaustiva de las quejas de los clientes, los informes de campo, los informes de incidentes, las demandas y cualquier otro dato relacionado con las supuestas violaciones de las leyes de tráfico por parte del FSD. Para cada incidente de choque, Tesla debe proporcionar información detallada.

Esta investigación pone de relieve los retos que plantea el despliegue de la IA avanzada en sistemas críticos para la seguridad. El FSD se basa en una compleja red neuronal, un tipo de IA que aprende de grandes cantidades de datos para hacer predicciones y tomar decisiones. Sin embargo, las redes neuronales son a menudo "cajas negras", lo que significa que su funcionamiento interno es opaco, lo que dificulta la comprensión de por qué toman ciertas decisiones. Esta falta de transparencia plantea preocupaciones sobre la rendición de cuentas y la previsibilidad, especialmente cuando hay vidas en juego.

"El reto con estos sistemas avanzados de asistencia al conductor es garantizar que puedan manejar la infinita variabilidad de las condiciones de conducción del mundo real", explica la Dra. Emily Carter, profesora de ética de la IA en la Universidad de Stanford. "Incluso con pruebas exhaustivas, es imposible anticipar todos los escenarios. El sistema debe ser lo suficientemente robusto como para manejar eventos inesperados y priorizar la seguridad por encima de todo".

Las implicaciones van más allá de Tesla. A medida que avanza la tecnología de conducción autónoma, la sociedad debe lidiar con cuestiones fundamentales sobre la responsabilidad. ¿A quién se debe culpar cuando un coche autónomo causa un accidente? ¿Al fabricante? ¿Al desarrollador del software? ¿Al propietario? Se trata de complejos dilemas legales y éticos que requieren una cuidadosa consideración.

La prórroga de cinco semanas concedida a Tesla subraya la magnitud de la tarea que se avecina. La NHTSA no solo busca respuestas sencillas; busca una comprensión exhaustiva de las capacidades, las limitaciones y los riesgos potenciales del FSD. El resultado de esta investigación podría tener consecuencias de gran alcance para el futuro de la conducción autónoma, dando forma a las regulaciones e influyendo en la percepción pública de esta tecnología transformadora. A medida que la IA continúa permeando nuestras vidas, el escrutinio que rodea al FSD sirve como un recordatorio crucial de la necesidad de transparencia, rendición de cuentas y un enfoque implacable en la seguridad. El camino por delante está pavimentado tanto de promesas como de peligros, y depende de los reguladores, los fabricantes y la sociedad en su conjunto navegarlo de manera responsable.