일론 머스크의 AI 도구인 Grok은 더 이상 실제 인물의 사진을 편집하여 해당 변경이 불법인 관할 구역에서 노출이 심한 의상을 입은 모습으로 묘사할 수 없게 됩니다. 머스크가 소유하고 2023년에 Grok이 출시된 소셜 미디어 플랫폼인 X에서 발표된 이번 조치는 성적인 AI 딥페이크의 가능성에 대한 광범위한 우려에 따른 것입니다.

X는 Grok 계정에서 실제 인물의 이미지를 노출이 심한 의상으로 편집하는 것을 방지하기 위해 "기술적 조치"가 구현되었다고 밝혔습니다. 이번 조치는 동의 없이 성적으로 노골적인 콘텐츠를 생성하기 위해 AI 기술이 오용될 가능성에 대한 규제 기관과 대중의 비판과 조사에 따른 것입니다.

영국 정부는 이번 변화를 X에 Grok을 통제하라는 요구에 대한 "정당성 입증"이라고 평가했습니다. 영국의 통신 규제 기관인 Ofcom은 이번 개발을 "환영"한다고 밝혔지만, 플랫폼이 영국 법률을 위반했는지 여부에 대한 조사는 "여전히 진행 중"이라고 강조했습니다. Ofcom은 "이 문제를 해결하고 무엇이 잘못되었는지, 그리고 이를 해결하기 위해 무엇이 이루어지고 있는지에 대한 답변을 얻기 위해 24시간 내내 노력하고 있습니다."라고 밝혔습니다. 기술부 장관인 리즈 켄달도 이번 조치를 환영하며 "Ofcom의 진행 중인 조사에서 사실이 완전하고 강력하게 확립될 것으로 기대한다"고 덧붙였습니다.

Grok과 같은 AI 도구가 이미지를 조작하는 능력은 중요한 윤리적, 법적 문제를 제기합니다. 기존 이미지나 비디오 속의 사람을 다른 사람의 모습으로 대체하는 합성 미디어인 딥페이크는 점점 더 정교해져서 탐지하기가 어려워지고 있습니다. 이로 인해 동의 없는 포르노 제작, 허위 정보 캠페인, 신원 도용 등 악의적인 목적으로 사용될 가능성에 대한 우려가 커지고 있습니다.

Grok이 그러한 이미지를 생성하는 것을 방지하기 위해 X가 구현한 기술적 조치는 발표에서 자세히 설명되지 않았습니다. 그러나 잠재적인 해결책으로는 성적으로 노골적인 콘텐츠 생성을 요청하는 프롬프트를 감지하고 차단하도록 설계된 필터링 알고리즘과 AI 생성 이미지가 합성된 것임을 나타내는 워터마크가 포함될 수 있습니다.

캠페인 참가자들과 피해자들은 이번 변화가 이미 발생한 피해를 되돌리기에는 너무 늦었다고 주장했습니다. 제공된 원본 자료에 직접 인용되지는 않았지만 언론인이자 캠페인 참가자인 제스 데이비스는 이 문제에 대한 인식을 높이는 데 관여했을 가능성이 높습니다. 이번 사건은 빠르게 진화하는 AI 기술을 규제하는 데 따르는 어려움과 오용을 방지하기 위한 사전 조치의 필요성을 강조합니다. Ofcom의 진행 중인 조사는 X가 Grok이 악의적인 목적으로 사용될 가능성을 얼마나 인지하고 있었는지, 그리고 그러한 오용을 방지하기 위해 회사가 취한 조치가 있는지 여부를 조사할 가능성이 높습니다. 조사 결과는 소셜 미디어 플랫폼에서 AI 기술 규제에 중요한 영향을 미칠 수 있습니다.