이번 조치는 해당 도구로 생성될 수 있는 성적 AI 딥페이크에 대한 광범위한 우려에 따른 것이다. 2023년에 출시된 Grok은 X 플랫폼에 통합된 AI 어시스턴트이다. 이미지 변조를 막기 위해 구현된 구체적인 기술적 메커니즘은 X에서 공개하지 않았다.

영국 정부는 이번 변화에 대해 X가 Grok을 통제해야 한다는 기존 요구에 대한 "입증"이라고 평가했다. 영국 통신 규제 기관인 Ofcom은 이번 개발을 "환영"한다고 밝혔지만, X가 영국 법률을 위반했는지에 대한 조사는 "여전히 진행 중"이라고 강조했다. Ofcom은 "이 문제를 해결하고 무엇이 잘못되었는지, 그리고 무엇을 통해 해결되고 있는지에 대한 답변을 얻기 위해 24시간 내내 노력하고 있다"고 밝혔다. 리즈 켄달 기술부 장관 또한 이번 조치를 환영하며 "Ofcom의 지속적인 조사를 통해 사실이 완전하고 확실하게 규명될 것으로 기대한다"고 덧붙였다.

캠페인 참가자들과 피해자들은 이번에 시행된 변경 사항이 이미 기술로 인해 발생한 피해를 해결하기에는 불충분하다고 주장했다. 이 문제에 대해 목소리를 높여온 언론인이자 캠페인 참가자인 제스 데이비스는 X가 시행한 구체적인 조치에 대해 아직 언급하지 않았다.

이번 사건은 AI 기술의 오용, 특히 비합의적 사적 이미지 생성과 관련된 우려가 커지고 있음을 강조한다. AI를 사용하여 이미지를 현실적으로 변경할 수 있는 능력은 심각한 윤리적, 법적 문제를 제기하며, 더 엄격한 규제와 기술적 안전 장치에 대한 요구를 촉발하고 있다. 진행 중인 Ofcom 조사는 문제의 심각성과 AI 도구 오용 방지에 대한 소셜 미디어 플랫폼의 책임에 대해 더 자세히 밝혀줄 것으로 예상된다.