L'Office of Road and Rail (ORR), l'autorité de régulation ferroviaire, a admis qu'il lui manquait des informations cruciales lorsqu'il a décidé de ne pas autoriser les passagers à bord d'un service ferroviaire aux heures de pointe entre Manchester et Londres. L'ORR a déclaré qu'il lui manquait des "points critiques" lorsqu'il a pris la décision qui aurait conduit à ce que le service fonctionne quotidiennement comme un "train fantôme" pendant plusieurs mois.

Le directeur général de l'ORR, John Larkinson, a déclaré que l'organisation ignorait que le train serait "entièrement équipé en personnel", qu'il partirait de Manchester Piccadilly au lieu d'un dépôt, et qu'il devait arriver à Euston pour devenir le service de 09h30 GMT à destination de Glasgow. "Les informations qui nous sont parvenues ultérieurement ont révélé que notre hypothèse était incorrecte", a-t-il déclaré.

L'ORR a été critiqué en novembre suite à sa décision d'autoriser la circulation du train populaire de 07h00, mais uniquement avec du personnel à bord. Cette décision, qui devait entrer en vigueur à la mi-décembre, a été rapidement annulée après une vive réaction. L'ORR avait initialement justifié cette décision en expliquant que le service devait circuler à vide pour servir de coupe-feu, c'est-à-dire un intervalle planifié dans l'horaire.

Le faux pas de l'autorité de régulation met en évidence les difficultés à prendre des décisions éclairées dans des systèmes complexes, un problème que l'IA est de plus en plus utilisée pour résoudre. Les systèmes d'aide à la décision basés sur l'IA analysent de grandes quantités de données pour identifier des schémas et prédire des résultats, ce qui pourrait permettre d'éviter les erreurs causées par des informations incomplètes. Cependant, cet incident souligne également l'importance de la qualité des données et le potentiel de biais dans les systèmes d'IA. Si les données introduites dans un modèle d'IA sont incomplètes ou inexactes, les recommandations qui en résulteront seront erronées.

L'incident soulève des questions sur les processus de collecte et d'analyse des données de l'ORR. Il souligne également la nécessité de transparence et de responsabilité dans la prise de décision réglementaire, en particulier à mesure que l'IA se généralise. L'ORR n'a pas encore annoncé de modifications spécifiques à ses procédures à la suite de cet incident.