Le chef de la police des West Midlands, Craig Guildford, a démissionné à la suite de vives critiques concernant une décision d'interdire aux supporters du club de football israélien Maccabi Tel Aviv d'assister à un match contre Aston Villa l'année dernière. L'interdiction, qui a eu lieu lors d'un match de l'UEFA Europa Conference League, a déclenché un rapport gouvernemental qui a cité des inexactitudes et des préjugés comme facteurs ayant contribué à la décision de la police.

Le rapport, publié plus tôt cette semaine, indique que si certains supporters du Maccabi Tel Aviv avaient eu un comportement violent à Amsterdam avant le match, l'interdiction générale de tous les supporters était disproportionnée. "Le processus de prise de décision manquait de preuves suffisantes et démontrait un biais potentiel", indique le rapport. Le rapport note en outre que la police s'est appuyée sur des renseignements erronés et n'a pas suffisamment envisagé d'autres mesures, telles qu'une sécurité accrue ou des restrictions ciblées.

L'incident met en évidence les défis auxquels sont confrontées les forces de l'ordre pour concilier la sécurité publique avec les principes d'équité et de non-discrimination. Les outils de police prédictive basés sur l'IA, de plus en plus utilisés par les forces de police du monde entier, s'appuient sur des algorithmes pour identifier les menaces potentielles. Cependant, les critiques soutiennent que ces algorithmes peuvent perpétuer les préjugés existants s'ils sont entraînés sur des données reflétant des préjugés historiques. Cette affaire soulève des inquiétudes quant au potentiel de biais algorithmique à influencer les décisions policières, conduisant à des résultats discriminatoires.

"L'utilisation de l'IA dans l'application de la loi nécessite une surveillance et une transparence attentives", a déclaré le Dr Anya Sharma, professeur d'éthique de l'IA à l'Université de Birmingham. "Les algorithmes ne valent que les données sur lesquelles ils sont entraînés. Si les données reflètent les préjugés sociétaux, l'algorithme amplifiera ces préjugés." Les développements récents en matière d'éthique de l'IA soulignent l'importance des algorithmes "conscients de l'équité", conçus pour atténuer les biais et garantir des résultats équitables. Ces algorithmes intègrent des techniques telles que le débiaisement contradictoire et le raisonnement causal pour identifier et corriger les sources potentielles de biais.

La police des West Midlands a annoncé un examen interne de ses stratégies de déploiement de l'IA à la lumière des conclusions du rapport. Un porte-parole de la police a déclaré qu'elle s'engageait à garantir que toutes les décisions policières soient fondées sur des preuves et exemptes de biais. La démission du chef Guildford marque un tournant important dans le débat sur le rôle de l'IA dans l'application de la loi et la nécessité d'une plus grande responsabilité et transparence. L'enquête est en cours et d'autres détails devraient être publiés dans les semaines à venir.