최근 BBC의 한 기자가 일부 주요 소매업체와 독립 상점에서 시행 중인 인공지능(AI) 도난 방지 기술을 시험했습니다. 이번 실험은 이러한 시스템의 효과를 평가하고 기업과 소비자 모두에게 미치는 광범위한 영향을 탐색하는 것을 목표로 했습니다.
AI 시스템은 일반적으로 기존 CCTV 인프라를 활용하여 정교한 알고리즘으로 비디오 피드를 실시간으로 분석합니다. 이러한 알고리즘은 고가 상품 근처에서 장시간 배회하거나, 상품을 숨기거나, 출구 쪽으로 몰래 시선을 돌리는 등 도둑질을 암시하는 의심스러운 행동을 식별하도록 훈련됩니다. 의심스러운 활동이 감지되면 시스템은 매장 직원에게 경고하여 개입할 수 있도록 합니다.
핵심 기술은 명시적인 프로그래밍 없이 방대한 데이터 세트에서 알고리즘이 학습하는 AI의 하위 집합인 머신 러닝에 의존합니다. 이러한 맥락에서 AI는 합법적인 쇼핑 행동과 도둑질 사례를 모두 묘사한 수천 시간 분량의 비디오 영상으로 훈련됩니다. 이 훈련을 통해 시스템은 무고한 브라우징과 잠재적인 절도를 점점 더 정확하게 구별할 수 있습니다.
이 기술의 지지자들은 이 기술이 인간 보안 요원이나 기본 감시 시스템과 같은 기존 보안 조치보다 상당한 이점을 제공한다고 주장합니다. BBC 실험에 직접적으로 관여하지 않은 옥스퍼드 대학교의 컴퓨터 비전 전문가인 아냐 샤르마 박사는 "AI는 인간의 관찰로는 불가능한 수준의 경계심과 객관성을 제공할 수 있습니다."라고 말했습니다. "피로감이나 편견 없이 여러 영역을 동시에 지속적으로 모니터링할 수 있습니다."
그러나 소매 환경에서 AI를 사용하는 것은 개인 정보 보호 및 잠재적 편견에 대한 우려도 제기합니다. 비평가들은 이러한 시스템이 특정 인구 통계 그룹을 불균형적으로 표적으로 삼아 불공정하거나 차별적인 대우로 이어질 수 있다고 주장합니다. 전자 프런티어 재단의 개인 정보 보호 옹호자인 사라 첸은 "이러한 기술이 기존의 사회적 편견을 영속시킬 위험이 있습니다."라고 경고했습니다. "훈련 데이터가 편향된 경우 AI는 의심스러운 행동을 특정 민족이나 사회 경제적 배경과 연관시키는 것을 학습할 수 있습니다."
또한 이러한 시스템의 정확성이 보장되지는 않습니다. 무고한 쇼핑객이 잠재적인 도둑으로 잘못 플래그되는 오탐은 당황스럽거나 심지어 대립적인 상황으로 이어질 수 있습니다. BBC 기자의 테스트는 이러한 오탐의 빈도와 시스템이 실제 절도와 무해한 행동을 구별하는 능력을 탐색했을 가능성이 높습니다.
AI 도난 방지 기술의 배치는 소매 부문에서 자동화 및 데이터 분석 증가 추세의 일부입니다. 소매업체는 재고 관리를 최적화하고, 고객 경험을 개인화하고, 보안을 강화하기 위해 AI를 점점 더 활용하고 있습니다. 최신 개발에는 사기성 거래를 감지하기 위해 AI를 POS(Point-of-Sale) 시스템과 통합하고 안면 인식 기술을 사용하여 알려진 도둑을 식별하는 것이 포함됩니다.
이러한 기술이 사회에 미치는 장기적인 영향은 아직 알 수 없습니다. AI가 소매업 및 기타 공공 장소에서 더욱 보편화됨에 따라 이러한 시스템이 책임감 있게 사용되고 개인의 권리를 침해하지 않도록 윤리적, 법적 의미를 해결하는 것이 중요합니다. AI 기반 감시 기술의 개발 및 배포에 대한 명확한 지침과 규정을 수립하기 위해서는 추가 연구와 공론화가 필요합니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요