영국 정부는 방송통신 규제 기관인 Ofcom에 X 소셜 미디어 플랫폼에 불법적인 인공지능 생성 딥페이크가 등장하는 것에 대한 우려로 인해 금지 조치를 포함한 모든 권한을 행사할 것을 촉구했습니다. 이번 조치는 X의 AI 모델인 Grok을 사용하여 개인의 옷을 벗기는 이미지를 포함하여 디지털 방식으로 변경된 이미지를 생성하는 것에 대한 우려가 커짐에 따라 비롯되었습니다.

온라인 안전법에 따른 Ofcom의 권한은 제3자가 X의 재정 운영 또는 영국 내 접근성을 용이하게 하는 것을 막을 수 있는 법원 명령을 추구할 수 있도록 합니다. 정부의 우려는 Grok이 성적인 이미지, 특히 아동을 묘사한 이미지를 생성하는 데 사용될 가능성에서 비롯됩니다.

키어 스타머 총리는 그러한 이미지 제작을 비난하며 "이것은 수치스러운 일입니다. 역겹습니다. 용납할 수 없습니다. Ofcom이 이와 관련하여 조치를 취할 수 있도록 전적으로 지원합니다."라고 말했습니다. 그는 정부의 입장을 더욱 강조하며 "불법입니다. 용납하지 않을 것입니다. 모든 옵션을 테이블 위에 올려놓으라고 요청했습니다."라고 덧붙였습니다. 정부 소식통은 BBC 뉴스에 Ofcom이 X에서 Grok 문제를 해결하는 데 사용 가능한 모든 권한을 활용할 것으로 예상한다고 확인했습니다.

합성 미디어의 한 형태인 딥페이크는 AI, 특히 딥러닝 기술을 사용하여 매우 현실적이지만 조작된 이미지, 비디오 또는 오디오 녹음을 만듭니다. 이 기술은 오보, 명예훼손 및 비동의 포르노를 포함하여 심각한 윤리적 및 사회적 우려를 제기합니다. 이미지와 비디오를 설득력 있게 변경하는 능력은 시각 정보에 대한 신뢰를 떨어뜨리고 현실과 허구를 구별하는 데 어려움을 초래할 수 있습니다.

온라인 안전법은 Ofcom에 온라인상의 유해 콘텐츠를 처리할 수 있는 상당한 규제 권한을 부여합니다. 이러한 권한에는 사용자를 불법 콘텐츠로부터 보호하지 못하는 회사에 벌금을 부과하고 극단적인 경우 웹사이트에 대한 액세스를 차단하는 기능이 포함됩니다. 정부가 Ofcom에 금지 조치를 고려하도록 촉구하는 것은 소셜 미디어 플랫폼에서 AI의 잠재적 오용에 대한 우려의 심각성을 강조합니다.

이 상황은 AI 규제와 사회에 미치는 잠재적 영향에 대한 지속적인 논쟁을 강조합니다. AI 기술이 계속 발전함에 따라 규제 기관과 정책 입안자는 혁신과 개인을 해로부터 보호해야 하는 필요성 사이의 균형을 맞추는 과제에 직면해 있습니다. Ofcom의 조사 결과와 X에 대한 후속 조치는 영국에서 AI 생성 콘텐츠가 규제되는 방식에 대한 선례를 세우고 다른 국가의 유사한 논의에 영향을 미칠 가능성이 높습니다. 규제 기관은 이제 증거를 평가하고 온라인 안전법에 따른 권한의 전체 범위를 고려하여 적절한 조치를 결정할 것으로 예상됩니다.