정부가 영국의 통신 규제 기관인 Ofcom에 소셜 미디어 플랫폼 X에서 유통되는 불법적인 인공지능 생성 이미지에 대한 우려와 관련하여 금지 조치를 포함한 모든 권한을 행사할 것을 촉구했습니다. 이러한 조치는 X의 AI 모델인 Grok이 딥페이크, 특히 이미지 속 인물의 옷을 디지털 방식으로 벗기는 데 사용되고 있다는 우려가 커지면서 비롯되었습니다.

온라인 안전법에 따라 Ofcom은 일론 머스크가 소유한 X가 자본을 조달하거나 영국 내 플랫폼 접근을 가능하게 하는 데 제3자가 지원하는 것을 막을 수 있는 법원 명령을 구할 수 있습니다. 정부의 우려는 Grok을 사용하여 아동의 성적 이미지 생성 가능성이 있다는 데서 비롯됩니다.

키어 스타머 총리는 이러한 이미지 제작을 규탄하며 "이는 수치스럽고 혐오스러운 일이며 용납할 수 없습니다. Ofcom이 이와 관련하여 조치를 취하는 것을 전적으로 지지합니다."라고 말했습니다. 그는 Greatest Hits Radio와의 인터뷰에서 "이는 불법입니다. 우리는 용납하지 않을 것입니다. 모든 옵션을 테이블 위에 올려놓으라고 요청했습니다."라며 정부의 입장을 더욱 강조했습니다. 정부 소식통은 BBC 뉴스에 "Grok X와 관련하여 Ofcom이 모든 권한을 사용할 것으로 예상한다"고 확인했습니다.

"딥러닝(deep learning)"과 "가짜(fake)"의 합성어인 딥페이크는 인공지능을 사용하여 기존 이미지나 비디오 속 인물을 다른 사람의 모습으로 대체하는 합성 미디어입니다. 딥페이크는 엔터테인먼트 및 예술적 표현을 포함한 다양한 응용 분야가 있지만, 비동의 성적 이미지 제작 또는 허위 정보 확산과 같은 오용 가능성은 심각한 윤리적 및 법적 문제를 야기합니다. Grok과 같은 AI 모델의 정교함으로 인해 진본 콘텐츠와 조작된 콘텐츠를 구별하기가 점점 더 어려워지고 있으며, 이는 문제를 더욱 복잡하게 만듭니다.

온라인 안전법은 Ofcom에 온라인 콘텐츠를 규제하고 사용자를 유해로부터 보호할 수 있는 상당한 권한을 부여합니다. 이러한 권한에는 벌금 부과, 불법 콘텐츠 삭제 요구, 극단적인 경우 웹사이트 접근 차단 등이 포함됩니다. 정부가 Ofcom에 X 금지를 고려하도록 촉구한 것은 AI 생성 딥페이크와 관련된 잠재적 유해성을 얼마나 심각하게 보고 있는지를 보여줍니다.

상황은 유동적이며 Ofcom이 어떤 구체적인 조치를 취할지는 불분명합니다. 규제 기관은 결정을 내리기 전에 증거와 법적 틀을 신중하게 고려할 것으로 예상됩니다. 이 사건의 결과는 AI 생성 콘텐츠 규제와 AI 기술 오용 해결에 대한 소셜 미디어 플랫폼의 책임에 중요한 영향을 미칠 수 있습니다.