일론 머스크의 AI 도구인 Grok은 실제 인물을 노출이 심한 옷차림으로 묘사하도록 사진을 편집하는 기능이 해당 변경이 불법인 관할 구역에서는 더 이상 불가능할 것이라고 X에 발표되었습니다. 이번 결정은 플랫폼에서 생성된 성적인 AI 딥페이크의 가능성에 대한 광범위한 우려에 따른 것입니다.

일론 머스크가 소유한 소셜 미디어 플랫폼인 X는 Grok 계정에서 실제 인물의 이미지를 노출이 심한 옷차림으로 편집하는 것을 방지하기 위해 기술적 조치를 시행했다고 밝혔습니다. 회사는 2023년에 Grok을 출시했습니다.

영국 정부는 이번 변화에 대해 X에 Grok 통제를 요구한 것에 대한 "정당성 입증"이라고 평가했습니다. 영국 통신 규제 기관인 Ofcom은 이번 조치를 "환영할 만한 발전"이라고 평가했지만, 플랫폼이 영국 법률을 위반했는지 여부에 대한 조사는 "여전히 진행 중"이라고 강조했습니다. Ofcom은 조사를 진전시키고 무엇이 잘못되었는지, 그리고 무엇이 수정되고 있는지 파악하기 위해 노력하고 있다고 밝혔습니다.

기술부 장관 리즈 켄달은 이번 조치를 환영했지만 "Ofcom의 진행 중인 조사에서 사실이 완전하고 강력하게 확립될 것으로 기대한다"고 말했습니다.

캠페인 참가자들과 피해자들은 이번 변화가 기술로 인해 이미 발생한 피해를 되돌리기에는 너무 늦었다고 주장합니다. 언론인이자 캠페인 참가자인 제스 데이비스도 우려를 표명한 사람들 중 한 명입니다.

Grok의 기술은 많은 AI 이미지 편집 도구와 마찬가지로 방대한 이미지 데이터 세트로 훈련된 딥 러닝 모델을 활용합니다. 이러한 모델은 옷을 추가하거나 제거하는 것을 포함하여 다양한 방식으로 기존 이미지를 변경하도록 조작할 수 있습니다. 이러한 기능이 동의 없이 성적으로 노골적인 이미지를 만드는 데 사용될 때 우려가 발생하며, 이러한 이미지는 종종 딥페이크라고 불립니다.

이번 결정이 업계에 미치는 영향은 아직 미지수입니다. 다른 AI 이미지 편집 플랫폼도 유사한 안전 장치를 구현하라는 압력과 감시가 강화될 수 있습니다. 이번 사건은 빠르게 발전하는 AI 기술과 관련된 윤리적 문제와 오용을 방지하기 위한 사전 예방적 조치의 필요성을 강조합니다.