Betty Brown, de 92 anos, a vítima mais velha sobrevivente do escândalo do sistema de TI Horizon dos Correios, foi nomeada Oficial da Ordem do Império Britânico (OBE) em reconhecimento aos seus serviços à justiça após fazer campanha contra processos judiciais injustos. Brown e seu falecido marido, Oswall, administraram a agência dos Correios de Annfield Plain, no Condado de Durham, de 1985 até 2003, quando foram forçados a sair depois de gastar mais de £50.000 de suas economias para cobrir déficits que não existiam. Recentemente, ela recebeu sua indenização de um dos programas de compensação do governo.

Brown disse ao BBC Breakfast que aceitou o reconhecimento na lista de Honras de Ano Novo em nome de todas as vítimas do escândalo. "Cada um deles deveria ter um OBE", disse ela. "Cada um deles pelo que os Correios nos fizeram passar e pelo que permanecemos sólidos e fiéis. Eu fiz isso por justiça."

O sistema de TI Horizon, desenvolvido pela Fujitsu, foi implementado nas agências dos Correios a partir de 1999. Ele foi projetado para otimizar as operações, mas continha falhas críticas que levaram a discrepâncias contábeis. Essas discrepâncias resultaram em mais de 900 sub-agentes dos Correios sendo processados injustamente por roubo, fraude e contabilidade falsa com base em dados defeituosos do sistema Horizon. Milhares de outros enfrentaram ruína financeira e danos à reputação. Os Correios, mantendo a integridade do sistema, prosseguiram com esses processos, apesar das crescentes evidências dos erros do sistema.

O escândalo expôs uma falha significativa na responsabilidade algorítmica. O sistema Horizon, uma ferramenta complexa orientada por IA, tomou decisões que impactaram diretamente a vida das pessoas, mas seu funcionamento interno era opaco e difícil de auditar. Isso levantou preocupações sobre o potencial de viés e erros em sistemas de IA, especialmente quando usados em situações de alto risco. O caso destaca a importância da transparência, explicabilidade e supervisão independente no desenvolvimento e implantação de tecnologias de IA.

O escândalo dos Correios gerou apelos por reformas legais e regulatórias para proteger os indivíduos dos potenciais danos dos sistemas de IA. Há uma discussão crescente sobre a necessidade de auditorias independentes de algoritmos, o direito à explicação para decisões orientadas por IA e mecanismos de reparação quando os sistemas de IA causam danos. O governo do Reino Unido está atualmente considerando legislação para abordar essas questões, incluindo propostas para um regulador de IA.

A tão esperada indenização que Brown recebeu faz parte do esforço do governo para compensar as vítimas do escândalo. No entanto, muitas vítimas ainda estão aguardando a compensação total, e o processo tem sido criticado por ser lento e complexo. Um inquérito público está em andamento para investigar toda a extensão do escândalo e determinar quem foi o responsável pelos processos judiciais injustos. Espera-se que o inquérito apresente suas conclusões ainda este ano.