우체국 호라이즌 IT 스캔들의 최고령 생존 피해자인 92세의 베티 브라운이 부당 기소에 맞서 캠페인을 벌인 공로를 인정받아 대영 제국 훈장(OBE)을 받았습니다. 브라운과 그녀의 고인이 된 남편 오스왈은 1985년부터 2003년까지 더럼 카운티의 앤필드 플레인 우체국을 운영했으며, 존재하지 않는 부족분을 메우기 위해 5만 파운드 이상의 저축을 쓰고 쫓겨났습니다. 그녀는 최근 정부의 보상 제도 중 하나로부터 합의금을 받았습니다.

브라운은 BBC 브렉퍼스트와의 인터뷰에서 새해 서훈자 명단에 오른 것을 스캔들의 모든 피해자를 대신하여 수락했다고 말했습니다. "그들 모두가 OBE를 받아야 합니다."라고 그녀는 말했습니다. "우체국이 우리를 겪게 한 일과 우리가 굳건하고 성실하게 지켜온 일에 대해 그들 모두가 받아야 합니다. 저는 정의를 위해 이 일을 했습니다."

후지쯔가 개발한 호라이즌 IT 시스템은 1999년부터 우체국 지점에 도입되었습니다. 운영을 간소화하기 위한 것이었지만 회계 불일치를 초래하는 심각한 결함이 있었습니다. 이러한 불일치로 인해 900명 이상의 우체국장이 호라이즌 시스템의 결함 있는 데이터를 근거로 절도, 사기 및 허위 회계 혐의로 부당하게 기소되었습니다. 수천 명의 사람들이 재정적 파탄과 명예 훼손에 직면했습니다. 우체국은 시스템의 무결성을 유지하면서 시스템 오류에 대한 증거가 증가하고 있음에도 불구하고 이러한 기소를 추진했습니다.

이 스캔들은 알고리즘 책임에 대한 심각한 실패를 드러냈습니다. 복잡한 AI 기반 도구인 호라이즌 시스템은 사람들의 삶에 직접적인 영향을 미치는 결정을 내렸지만 그 내부 작동 방식은 불투명하고 감사하기 어려웠습니다. 이는 특히 위험도가 높은 상황에서 사용될 때 AI 시스템의 편향 및 오류 가능성에 대한 우려를 제기했습니다. 이 사례는 AI 기술의 개발 및 배포에 있어 투명성, 설명 가능성 및 독립적인 감독의 중요성을 강조합니다.

우체국 스캔들은 AI 시스템의 잠재적 피해로부터 개인을 보호하기 위한 법적 및 규제 개혁을 촉구했습니다. 알고리즘에 대한 독립적인 감사, AI 기반 결정에 대한 설명 권리, AI 시스템으로 인해 피해가 발생했을 때 구제 메커니즘의 필요성에 대한 논의가 증가하고 있습니다. 영국 정부는 현재 AI 규제 기관에 대한 제안을 포함하여 이러한 문제를 해결하기 위한 법안을 고려하고 있습니다.

브라운이 오랫동안 기다려온 합의금은 스캔들의 피해자에게 보상하려는 정부 노력의 일환입니다. 그러나 많은 피해자들이 여전히 완전한 보상을 기다리고 있으며, 그 과정은 느리고 복잡하다는 비판을 받고 있습니다. 스캔들의 전체 범위를 조사하고 부당 기소에 대한 책임자를 결정하기 위한 공공 조사가 진행 중입니다. 이 조사는 올해 말에 결과를 발표할 것으로 예상됩니다.