Le bus scolaire jaune vif, un symbole de la routine enfantine, a actionné ses feux clignotants et déployé son panneau d'arrêt. Mais au lieu de la pause attendue, un robotaxi Waymo est passé, semblant ignorer les enfants susceptibles de traverser la rue. Il ne s'agissait pas d'un incident isolé. Plus de vingt situations similaires de quasi-accidents à Austin, au Texas, et dans d'autres lieux ont attiré l'attention du National Transportation Safety Board (NTSB), déclenchant une enquête officielle sur la technologie de conduite autonome de Waymo.

L'enquête du NTSB marque une escalade significative de l'examen minutieux de Waymo, un acteur majeur de l'industrie des véhicules autonomes (VA). Bien que les voitures autonomes promettent une sécurité et une efficacité accrues, ces incidents mettent en évidence les défis complexes de la programmation des véhicules pour qu'ils naviguent dans des scénarios imprévisibles du monde réel, en particulier ceux impliquant des usagers de la route vulnérables comme les enfants. C'est la première fois que Waymo fait l'objet d'une enquête du NTSB, mais elle fait suite à une enquête similaire lancée en octobre par la National Highway Traffic Safety Administration (NHTSA).

Au cœur du problème se trouve le logiciel de Waymo, le code complexe qui dicte la façon dont ses véhicules perçoivent leur environnement et y réagissent. Le système repose sur une combinaison de capteurs – caméras, lidar (détection et télémétrie par ondes lumineuses) et radar – pour construire un modèle 3D de l'environnement. Ces données sont ensuite traitées par des algorithmes sophistiqués qui identifient les objets, prédisent leurs mouvements et planifient un itinéraire sûr. Cependant, les incidents récents suggèrent une faille critique : le système ne reconnaît pas et ne réagit pas de manière cohérente aux signaux visuels d'un bus scolaire arrêté.

« Le NTSB est préoccupé par le risque potentiel pour les enfants », a déclaré un porte-parole dans une déclaration à TechCrunch. « Notre enquête portera sur la performance du système de conduite autonome de Waymo dans ces situations, y compris sa capacité à détecter et à réagir aux signaux des bus scolaires et à l'activité piétonne. » Les enquêteurs se rendent à Austin pour recueillir des données, notamment des séquences vidéo, des journaux de capteurs et des entrevues avec des ingénieurs de Waymo et des responsables locaux. Un rapport préliminaire est attendu dans les 30 jours, et un rapport final plus complet dans les 12 à 24 mois.

Waymo a émis un rappel de logiciel en décembre pour résoudre le problème, mais les incidents répétés suggèrent que le problème est plus complexe qu'on ne l'avait initialement compris. Un rappel de logiciel dans l'industrie automobile s'apparente à une mise à jour corrective dans le monde de la technologie. Il s'agit d'une mesure corrective déployée pour corriger un défaut connu qui pourrait compromettre la sécurité. Dans le cas de Waymo, le rappel initial visait à améliorer la capacité du système à reconnaître les signaux des bus scolaires et à y réagir. Cependant, la persistance de ces incidents indique que la correction initiale était insuffisante.

Le district scolaire indépendant d'Austin a exprimé de vives inquiétudes, demandant à Waymo de prendre d'autres mesures pour assurer la sécurité des élèves. « Nous sommes profondément troublés par ces incidents et avons fait part de nos préoccupations à Waymo », a déclaré un représentant du district. « La sécurité de nos élèves est notre priorité absolue, et nous attendons de Waymo qu'elle prenne des mesures immédiates et efficaces pour empêcher que ces situations ne se reproduisent. »

L'enquête du NTSB pourrait avoir des implications considérables pour l'ensemble de l'industrie des véhicules autonomes. Elle souligne l'importance de tests et de validations rigoureux, en particulier dans les cas limites – les scénarios inhabituels ou inattendus qui peuvent mettre à l'épreuve même les systèmes d'IA les plus avancés. « C'est un moment critique pour l'industrie des VA », déclare la Dre Emily Carter, professeure de robotique à l'université de Stanford. « Elle souligne la nécessité d'une approche plus robuste et transparente de la validation de la sécurité. Nous devons aller au-delà de la simple démonstration que ces systèmes fonctionnent dans des conditions idéales et nous concentrer sur la garantie qu'ils peuvent gérer les complexités et les incertitudes du monde réel. »

L'issue de l'enquête du NTSB pourrait entraîner des réglementations et une surveillance plus strictes de la technologie des véhicules autonomes. Elle pourrait également inciter Waymo et d'autres développeurs de VA à investir dans une technologie de capteurs plus sophistiquée, des algorithmes améliorés et des protocoles de test plus complets. À mesure que les véhicules autonomes s'intègrent de plus en plus à notre système de transport, il est primordial d'assurer leur sécurité et leur fiabilité. L'avenir des voitures autonomes dépend de l'établissement de la confiance du public, et cette confiance ne peut être acquise que par une sécurité démontrable et un engagement à donner la priorité à la vie humaine avant tout. La route à suivre pour Waymo, et pour l'ensemble de l'industrie des VA, est désormais soumise à un examen minutieux.