영국 정부 장관이 딥페이크에 대한 우려로 인해 X에 대한 영국 내 사용 금지 가능성을 언급했습니다. 이 잠재적인 금지는 특히 정치 분야에서 대중을 오도할 수 있는 AI 생성 콘텐츠의 확산에서 비롯된다고 장관은 밝혔습니다.

정부는 현재 법률이 딥페이크로 인한 위험을 적절히 해결하는지 확인하기 위해 기존 법률을 적극적으로 검토하고 있습니다. 장관은 성명에서 "우리는 허위 정보와 조작으로부터 대중을 보호하기 위해 잠재적인 금지를 포함한 모든 옵션을 모색하고 있습니다"라고 말했습니다. 이번 검토에서는 딥페이크가 선거, 공론, 국가 안보에 미치는 영향을 고려할 것입니다.

딥페이크는 조작되거나 날조된 비디오 또는 다른 미디어로, 누군가가 하지 않은 행동이나 말을 설득력 있게 묘사하는 것으로 정의되며, 최근 몇 년 동안 점점 더 정교해지고 접근성이 높아졌습니다. 전문가들은 이러한 기술이 허위 정보를 퍼뜨리고, 명예를 훼손하고, 폭력을 선동하는 데 사용될 수 있다고 경고합니다.

제안된 금지 조치는 정책 입안자, 기술 회사 및 시민 자유 옹호자들 사이에서 논쟁을 불러일으켰습니다. 일부는 악의적인 딥페이크의 생성 및 유포를 막기 위해 금지가 필요하다고 주장하는 반면, 다른 사람들은 잠재적인 검열과 합법적인 예술적 표현의 억압에 대한 우려를 표명합니다.

디지털 권리 단체의 대변인은 "우리는 대중을 해악으로부터 보호하고 언론의 자유를 보장하는 것 사이에서 균형을 맞춰야 합니다"라며 "전면적인 금지는 의도치 않은 결과를 초래하고 AI 기술의 합법적인 사용에 불균형적인 영향을 미칠 수 있습니다"라고 말했습니다.

X는 장관의 발언에 대한 공식 성명을 아직 발표하지 않았습니다. 그러나 회사는 이전에 플랫폼에서 허위 정보와 싸우겠다는 약속을 밝혔으며 딥페이크를 탐지하고 제거하기 위한 조치를 시행했습니다.

정부의 검토는 향후 몇 달 안에 완료될 예정이며, 그 후 잠재적인 금지에 대한 결정이 내려질 것입니다. 이 결정에는 업계 이해 관계자, 법률 전문가 및 대중과의 협의가 포함될 가능성이 높습니다. 그 결과는 다른 국가들이 딥페이크 및 기타 형태의 AI 생성 콘텐츠를 규제하는 방법에 대한 선례를 세울 수 있습니다.