영국 정부가 딥페이크 기술에 대한 우려로 인해 X(구 트위터)에 대한 금지 조치를 고려하고 있다고 정부 장관이 최근 밝혔다. 이번 금지 가능성은 X 플랫폼이 조작된 비디오 및 이미지, 즉 딥페이크를 확산시키는 데 사용되어 대중을 오도하고 잠재적으로 민주적 절차를 방해할 수 있다는 우려에서 비롯되었다.

익명을 요구한 한 장관은 정부가 딥페이크와 관련된 X의 정책 및 시행 메커니즘을 적극적으로 검토하고 있다고 밝혔다. "우리는 딥페이크가 정보에 대한 신뢰를 약화시키고 여론을 조작할 가능성에 대해 깊이 우려하고 있습니다."라고 장관은 말했다. "X가 이러한 우려를 적절히 해결하지 못하면 잠재적인 금지를 포함하여 주저하지 않고 조치를 취할 것입니다."

정부의 우려는 딥페이크 기술의 빠른 발전과 정교함 증가에 집중되어 있다. 이러한 AI 생성 위조물은 개인이 실제로 하지 않은 말이나 행동을 하는 것처럼 보이는 현실적인 비디오를 만들 수 있다. 전문가들은 딥페이크가 허위 정보를 퍼뜨리고, 명성을 훼손하고, 심지어 폭력을 선동하는 데 사용될 수 있다고 경고한다.

X는 조작된 미디어에 대한 기존 정책을 강조하며 정부의 우려에 대응했다. X 대변인은 "딥페이크를 포함한 조작된 미디어에 대처하기 위한 명확한 정책을 시행하고 있습니다. 탐지 및 시행 능력을 향상시키기 위해 끊임없이 노력하고 있습니다."라고 말했다. 대변인은 X가 딥페이크로 인한 문제 해결을 위해 정부와 협력할 것이라고 덧붙였다.

그러나 비평가들은 X의 현재 정책이 불충분하며 플랫폼이 딥페이크를 사전에 식별하고 제거하기 위해 충분히 노력하지 않고 있다고 주장한다. 일부에서는 소셜 미디어 회사의 딥페이크 퇴치 노력에 대한 더 엄격한 규제와 투명성을 요구했다.

X와 딥페이크에 대한 논쟁은 온라인상의 허위 정보 확산에 대한 전 세계적인 우려가 커지는 가운데 나왔다. 전 세계 정부는 언론의 자유를 침해하지 않으면서 소셜 미디어 플랫폼을 규제하고 유해 콘텐츠로부터 시민을 보호하는 방법을 고심하고 있다. 영국 정부는 현재 소셜 미디어 회사가 플랫폼에서 불법 콘텐츠 확산에 대해 책임을 지도록 하는 법안을 포함하여 다양한 옵션을 고려하고 있다.

현재 상황은 정부가 X의 정책 및 시행 메커니즘에 대한 검토를 계속하고 있다는 것이다. 딥페이크 및 온라인 허위 정보와 관련된 새로운 규정에 대한 잠재적인 세부 사항을 포함하여 향후 몇 주 안에 추가 발표가 있을 것으로 예상된다. 이번 검토 결과는 영국 내 X의 운영과 소셜 미디어 플랫폼 규제에 대한 더 광범위한 논쟁에 중요한 영향을 미칠 수 있다.