일론 머스크의 AI 도구인 Grok은 머스크가 소유한 소셜 미디어 플랫폼 X의 발표에 따르면, 실제 사람들의 사진을 편집하여 노출이 심한 옷을 입은 모습으로 묘사하는 기능이 해당 변경이 불법인 관할 구역에서는 더 이상 불가능할 것입니다. 이번 결정은 해당 도구로 생성된 성적인 AI 딥페이크의 가능성에 대한 광범위한 우려에 따른 것입니다.

X는 Grok 계정에서 실제 사람들의 이미지를 노출이 심한 옷으로 편집하는 것을 방지하기 위한 기술적 조치를 시행했다고 밝혔습니다. 이번 조치는 비합의적인 성적 이미지 제작을 위한 AI 기술의 잠재적 오용에 대한 비판과 조사 이후에 나온 것입니다.

영국 정부는 이번 발표에 대해 X가 Grok을 통제해야 한다는 요구에 대한 "정당성 입증"이라고 평가했습니다. 영국 통신 규제 기관인 Ofcom은 이번 변화를 "환영할 만한 발전"이라고 평가했지만, 플랫폼이 영국 법률을 위반했는지에 대한 조사는 "여전히 진행 중"이라고 언급했습니다. Ofcom은 "이 문제를 해결하고 무엇이 잘못되었는지, 그리고 이를 해결하기 위해 무엇을 하고 있는지에 대한 답변을 얻기 위해 밤낮으로 노력하고 있습니다."라고 밝혔습니다.

리즈 켄달 기술부 장관은 이번 조치를 환영했지만, 사실을 완전히 규명하기 위해 Ofcom의 지속적인 조사가 중요하다고 강조했습니다.

캠페인 참가자들과 피해자들은 이번 변화가 너무 늦었다고 표현하며, 이미 가해진 피해를 되돌릴 수 없다고 주장합니다. 제공된 자료에 직접 인용되지는 않았지만, 언론인이자 캠페인 참가자인 제스 데이비스는 AI 생성 콘텐츠에 대한 더 엄격한 규제를 옹호해 왔을 가능성이 높습니다.

2023년 X에서 출시된 Grok은 텍스트와 이미지를 생성하도록 설계된 AI 모델입니다. 딥페이크 생성을 방지하기 위해 시행된 구체적인 기술적 조치는 발표에 자세히 설명되지 않았습니다. 그러나 이러한 조치에는 일반적으로 성적으로 노골적인 방식으로 이미지를 변경하려는 요청을 감지하고 차단하도록 설계된 알고리즘이 포함됩니다. 이러한 알고리즘은 이미지 콘텐츠와 사용자 프롬프트를 분석하여 잠재적으로 유해한 요청을 식별할 수 있습니다.

이번 사건은 AI 기술의 윤리적 의미, 특히 딥페이크를 만들고 허위 정보를 퍼뜨리는 데 오용될 가능성에 대한 우려가 커지고 있음을 강조합니다. 업계는 혁신과 개인을 해로부터 보호해야 할 필요성 사이의 균형을 맞추는 과제에 직면해 있습니다. 또한 이번 개발은 소셜 미디어 플랫폼에 대한 AI 도구로 생성된 콘텐츠를 모니터링하고 통제해야 한다는 규제 압력이 증가하고 있음을 보여줍니다.

현재 상황은 기술적 조치가 시행되었지만 Ofcom의 조사는 계속되고 있습니다. 다음 단계는 Ofcom 조사 결과와 잠재적인 추가 규제 조치가 될 가능성이 높습니다.