일론 머스크의 AI 도구인 그록(Grok)은 더 이상 실제 인물의 사진을 편집하여 노출이 심한 옷을 입은 모습으로 묘사하는 것이 해당 변경이 불법인 관할 지역에서는 불가능하게 된다. 머스크가 소유한 소셜 미디어 플랫폼인 X에서 발표된 이번 조치는 성적인 AI 딥페이크의 가능성에 대한 광범위한 우려에 따른 것이다.

X는 "그록 계정에서 실제 인물의 이미지를 노출이 심한 옷차림으로 편집하는 것을 방지하기 위한 기술적 조치를 시행했다"고 밝혔다. 이번 조치는 해당 AI 도구의 잠재적 오용에 대한 비판과 규제 조사가 있은 후에 나온 것이다.

영국 정부는 이번 변화에 대해 X가 그록을 통제해야 한다는 자국의 요구에 대한 "정당성 입증"이라고 평가했다. 영국의 통신 규제 기관인 Ofcom은 이번 개발을 "환영"한다고 밝혔지만, X가 영국 법률을 위반했는지에 대한 조사는 "여전히 진행 중"이라고 강조했다. Ofcom은 "우리는 이 문제를 해결하고 무엇이 잘못되었는지, 그리고 무엇을 통해 해결할 수 있는지에 대한 답변을 얻기 위해 24시간 노력하고 있다"고 밝혔다.

리즈 켄달 기술부 장관 또한 이번 변화를 인정했지만, "Ofcom의 진행 중인 조사에서 사실이 완전하고 강력하게 확립될 것으로 기대한다"고 말했다.

2023년에 출시된 그록은 X 플랫폼에 통합된 AI 도구이다. 그 기능에는 이미지 편집이 포함되어 있어, 특히 비합의적인 딥페이크 생성과 관련하여 오용 가능성에 대한 우려를 불러일으켰다. 시행된 기술적 조치는 AI가 동의 없이 실제 개인을 성적으로 노골적이거나 노출이 심한 상황으로 묘사하는 이미지를 생성하는 것을 방지하는 것을 목표로 한다.

캠페인 참가자들과 피해자들은 이번 변화가 너무 늦었으며 이미 발생한 피해를 되돌릴 수 없다고 주장했다. 언론인이자 캠페인 참가자인 제스 데이비스는 AI로 생성된 학대에 대한 더 강력한 안전 장치의 필요성에 대해 목소리를 높여왔다.

그록이 그러한 이미지를 생성하는 것을 방지하기 위해 X가 시행한 구체적인 기술적 조치는 발표에서 자세히 설명되지 않았다. 그러나 이러한 조치에는 일반적으로 콘텐츠 필터링, 이미지 인식 알고리즘, AI가 처리할 수 있는 프롬프트 유형에 대한 제한이 결합되어 있다. 이러한 필터는 부적절하거나 유해한 콘텐츠 생성으로 이어질 수 있는 요청을 감지하고 차단하도록 설계되었다.

이번 사건은 AI 기반 도구, 특히 이미지 조작 및 딥페이크 기술 영역에서 증가하는 과제와 윤리적 고려 사항을 강조한다. AI 기술이 발전함에 따라 개발자와 플랫폼은 오용을 방지하고 개인을 해로부터 보호하기 위한 안전 장치를 구현해야 한다는 압력에 직면하고 있다. Ofcom의 진행 중인 조사는 규제 개입의 가능성과 플랫폼이 AI 생성 콘텐츠와 관련된 현지 법률 및 규정을 준수해야 할 필요성을 강조한다.