Betty Brown, 92 ans, la plus ancienne victime encore en vie du scandale informatique Horizon de la Poste britannique (Post Office), a été nommée Officier de l'Ordre de l'Empire britannique (OBE) en reconnaissance de ses services rendus à la justice après avoir milité contre les poursuites abusives. Brown et son défunt mari Oswall ont dirigé le bureau de poste d'Annfield Plain dans le comté de Durham de 1985 à 2003, date à laquelle ils ont été contraints de partir après avoir dépensé plus de 50 000 £ de leurs économies pour couvrir des déficits qui n'existaient pas. Elle a récemment reçu son indemnisation dans le cadre de l'un des programmes d'indemnisation du gouvernement.

Brown a déclaré à BBC Breakfast qu'elle acceptait cette distinction, figurant sur la liste des distinctions honorifiques du Nouvel An, au nom de toutes les victimes du scandale. "Chacun d'entre eux devrait recevoir un OBE", a-t-elle déclaré. "Chacun d'entre eux pour ce que la Poste nous a fait subir et pour ce que nous avons défendu avec solidité et fidélité. Je l'ai fait pour la justice."

Le système informatique Horizon, développé par Fujitsu, a été mis en place dans les bureaux de poste à partir de 1999. Il était destiné à rationaliser les opérations, mais il contenait des défauts critiques qui ont entraîné des anomalies comptables. Ces anomalies ont conduit à la poursuite abusive de plus de 900 sous-maîtres de poste pour vol, fraude et fausse comptabilité sur la base de données erronées provenant du système Horizon. Des milliers d'autres ont été confrontés à la ruine financière et à une atteinte à leur réputation. La Poste, tout en maintenant l'intégrité du système, a poursuivi ces poursuites malgré les preuves croissantes des erreurs du système.

Le scandale a mis en évidence un échec important en matière de responsabilité algorithmique. Le système Horizon, un outil complexe basé sur l'IA, a pris des décisions qui ont eu un impact direct sur la vie des gens, mais son fonctionnement interne était opaque et difficile à contrôler. Cela a soulevé des inquiétudes quant au potentiel de biais et d'erreurs dans les systèmes d'IA, en particulier lorsqu'ils sont utilisés dans des situations à enjeux élevés. L'affaire souligne l'importance de la transparence, de l'explicabilité et d'une surveillance indépendante dans le développement et le déploiement des technologies d'IA.

Le scandale de la Poste a suscité des appels à des réformes juridiques et réglementaires pour protéger les individus contre les préjudices potentiels des systèmes d'IA. On discute de plus en plus de la nécessité d'audits indépendants des algorithmes, du droit à une explication des décisions prises par l'IA et de mécanismes de recours lorsque les systèmes d'IA causent des préjudices. Le gouvernement britannique étudie actuellement une législation pour traiter ces questions, notamment des propositions de création d'un organisme de réglementation de l'IA.

L'indemnisation tant attendue que Brown a reçue fait partie des efforts du gouvernement pour indemniser les victimes du scandale. Cependant, de nombreuses victimes attendent encore une indemnisation complète, et le processus a été critiqué pour sa lenteur et sa complexité. Une enquête publique est en cours pour examiner toute l'étendue du scandale et déterminer qui est responsable des poursuites abusives. L'enquête devrait rendre ses conclusions dans le courant de l'année.