Начальник полиции Уэст-Мидлендса Крейг Гилфорд подал в отставку после резкой критики решения запретить болельщикам израильского футбольного клуба «Маккаби» (Тель-Авив) посещать матч против «Астон Виллы» в прошлом году. Запрет, введенный во время матча Лиги конференций УЕФА, вызвал правительственный отчет, в котором неточности и предвзятость были названы факторами, способствовавшими принятию решения полицией.

В отчете, опубликованном ранее на этой неделе, указывалось, что, хотя некоторые болельщики «Маккаби» (Тель-Авив) участвовали в насильственных действиях в Амстердаме перед матчем, тотальный запрет на всех болельщиков был несоразмерным. «Процесс принятия решений был недостаточно обоснован и продемонстрировал потенциальную предвзятость», — говорится в отчете. В отчете также отмечается, что полиция полагалась на ошибочные разведданные и не смогла адекватно рассмотреть альтернативные меры, такие как усиление охраны или целевые ограничения.

Этот инцидент подчеркивает проблемы, с которыми сталкиваются правоохранительные органы в балансировании общественной безопасности с принципами справедливости и недискриминации. Инструменты прогнозирующей полицейской деятельности на основе ИИ, все чаще используемые полицейскими силами по всему миру, полагаются на алгоритмы для выявления потенциальных угроз. Однако критики утверждают, что эти алгоритмы могут увековечивать существующие предубеждения, если они обучены на данных, отражающих исторические предрассудки. Этот случай вызывает опасения по поводу потенциального влияния алгоритмической предвзятости на решения полиции, что приводит к дискриминационным результатам.

«Использование ИИ в правоохранительной деятельности требует тщательного надзора и прозрачности», — заявила доктор Аня Шарма, профессор этики ИИ в Бирмингемском университете. «Алгоритмы хороши настолько, насколько хороши данные, на которых они обучены. Если данные отражают общественные предубеждения, алгоритм усилит эти предубеждения». Недавние разработки в области этики ИИ подчеркивают важность «алгоритмов, учитывающих справедливость», предназначенных для смягчения предвзятости и обеспечения справедливых результатов. Эти алгоритмы включают в себя такие методы, как состязательное устранение предвзятости и причинно-следственные рассуждения, чтобы выявлять и корректировать потенциальные источники предвзятости.

Полиция Уэст-Мидлендса объявила о внутреннем обзоре своих стратегий развертывания ИИ в свете выводов отчета. Представитель полиции заявил, что они привержены обеспечению того, чтобы все решения полиции основывались на доказательствах и были свободны от предвзятости. Отставка начальника Гилфорда знаменует собой важный поворотный момент в дебатах о роли ИИ в правоохранительной деятельности и необходимости большей подотчетности и прозрачности. Расследование продолжается, и ожидается, что дополнительные подробности будут опубликованы в ближайшие недели.