웨스트 미들랜즈 경찰청장 크레이그 길포드는 이스라엘 축구 클럽 마카비 텔아비브 서포터즈의 작년 아스톤 빌라와의 경기 참석 금지 결정에 대한 거센 반발로 사임했다. UEFA 유로파 컨퍼런스 리그 경기 도중 발생한 이 금지 조치는 경찰의 결정에 부정확성과 편견이 기여 요인으로 작용했다는 정부 보고서를 촉발했다.

이번 주 초에 발표된 보고서는 일부 마카비 텔아비브 팬들이 경기 전에 암스테르담에서 폭력적인 행동을 한 것은 사실이지만, 모든 서포터즈에 대한 전면적인 금지 조치는 지나치게 과도했다고 지적했다. 보고서는 "의사 결정 과정에 충분한 증거가 부족했고 잠재적인 편견이 드러났다"고 밝혔다. 보고서는 또한 경찰이 결함 있는 정보에 의존했으며 강화된 보안 또는 표적 제한과 같은 대안적 조치를 적절히 고려하지 못했다고 언급했다.

이번 사건은 법 집행 기관이 공공 안전과 공정성 및 무차별 원칙 사이의 균형을 맞추는 데 직면한 어려움을 강조한다. 경찰이 전 세계적으로 점점 더 많이 사용하는 AI 기반 예측 치안 도구는 알고리즘을 사용하여 잠재적인 위협을 식별한다. 그러나 비평가들은 이러한 알고리즘이 과거의 편견을 반영하는 데이터로 훈련될 경우 기존의 편견을 영속시킬 수 있다고 주장한다. 이번 사건은 알고리즘 편향이 치안 결정에 영향을 미쳐 차별적인 결과를 초래할 가능성에 대한 우려를 제기한다.

버밍엄 대학교의 AI 윤리학 교수인 아냐 샤르마 박사는 "법 집행에서 AI를 사용하는 데는 신중한 감독과 투명성이 필요하다"고 말했다. "알고리즘은 훈련된 데이터만큼만 좋다. 데이터가 사회적 편견을 반영하면 알고리즘은 이러한 편견을 증폭시킬 것이다." AI 윤리학의 최근 발전은 편향을 완화하고 공정한 결과를 보장하도록 설계된 "공정성 인식" 알고리즘의 중요성을 강조한다. 이러한 알고리즘은 적대적 디바이징 및 인과 추론과 같은 기술을 통합하여 잠재적인 편향 원인을 식별하고 수정한다.

웨스트 미들랜즈 경찰은 보고서의 결과에 비추어 AI 배치 전략에 대한 내부 검토를 발표했다. 경찰 대변인은 모든 치안 결정이 증거에 기반하고 편견이 없도록 보장하기 위해 노력하고 있다고 밝혔다. 길포드 청장의 사임은 법 집행에서 AI의 역할과 더 큰 책임과 투명성의 필요성에 대한 논쟁에서 중요한 전환점을 의미한다. 조사는 진행 중이며 앞으로 몇 주 안에 더 자세한 내용이 발표될 것으로 예상된다.