O Office of Rail and Road (ORR), o regulador ferroviário, admitiu que não possuía informações cruciais quando decidiu não permitir passageiros em um serviço de trem no horário de pico entre Manchester e Londres. Essa decisão teria resultado em um "trem fantasma" operando diariamente por vários meses.

O Diretor Executivo do ORR, John Larkinson, afirmou que a organização estava perdendo "pontos críticos" quando tomou a determinação inicial. Especificamente, o ORR não sabia que o trem seria "totalmente tripulado", partiria da estação Manchester Piccadilly em vez de um depósito, e que sua chegada à estação Euston era necessária para que se tornasse o serviço das 09h30 GMT para Glasgow. "A informação que posteriormente se tornou disponível para nós significou que nossa suposição se mostrou incorreta", disse Larkinson.

O ORR enfrentou consideráveis críticas em novembro após sua decisão de permitir que o popular trem das 07h00 circulasse vazio, transportando apenas funcionários. A decisão, programada para entrar em vigor em meados de dezembro, foi rapidamente revogada devido à reação negativa. O ORR havia inicialmente justificado sua posição alegando que o serviço precisava funcionar sem passageiros para criar um "corta-fogo", uma lacuna planejada no cronograma.

Este incidente destaca os desafios na gestão de sistemas complexos, onde dados incompletos podem levar a uma tomada de decisão falha. A dependência do ORR em dados potencialmente incompletos ressalta a importância de uma coleta e análise de dados robustas, princípios que também são centrais para o desenvolvimento e implantação de sistemas de inteligência artificial (IA). Os algoritmos de IA, como os potencialmente usados na otimização de horários de trens, são tão bons quanto os dados com os quais são treinados. Se os dados estiverem incompletos ou forem tendenciosos, as decisões da IA podem ser falhas, levando a consequências não intencionais.

As implicações deste incidente vão além da interrupção imediata dos serviços de trem. Ele levanta questões mais amplas sobre o papel dos reguladores na supervisão de sistemas complexos e o potencial para que a tomada de decisão orientada por dados dê errado. À medida que a IA se torna cada vez mais integrada em vários setores, incluindo transporte, saúde e finanças, é crucial garantir que os órgãos reguladores tenham acesso a dados abrangentes e precisos, bem como à expertise para interpretá-los de forma eficaz. Desenvolvimentos recentes na governança da IA enfatizam a necessidade de transparência, responsabilidade e supervisão humana em sistemas de IA para mitigar os riscos de viés e erro. A experiência do ORR serve como um conto de advertência, destacando a importância da tomada de decisão informada em um mundo cada vez mais orientado por dados.