이번 조치는 AI 기술의 잠재적 오용에 대한 상당한 반발과 정밀 조사에 따른 것이다. 2023년에 출시된 Grok은 이미지 조작을 포함한 다양한 유형의 콘텐츠를 생성하도록 설계되었다. 사용자들이 AI를 통해 실제 인물의 딥페이크를 부적절한 상황으로 만들 수 있다는 것을 발견하면서 우려가 제기되었다.

영국 정부는 이번 발표에 대해 X에게 Grok을 통제하라는 요구에 대한 "정당성 입증"이라고 화답했다. 규제 기관인 Ofcom 또한 이러한 감정을 반영하여 이번 변화를 "환영할 만한 발전"이라고 평가했지만, 플랫폼이 영국 법률을 위반했는지에 대한 조사는 "여전히 진행 중"이라고 강조했다. Ofcom은 "우리는 이 문제를 해결하고 무엇이 잘못되었는지, 그리고 무엇이 해결되고 있는지에 대한 답변을 얻기 위해 24시간 내내 노력하고 있다"고 밝혔다.

리즈 켄달 기술부 장관 또한 이번 변화를 환영했지만, "Ofcom의 진행 중인 조사에서 사실이 완전하고 강력하게 규명될 것으로 기대한다"고 덧붙였다.

Grok의 오용을 방지하기 위해 X가 시행한 구체적인 기술적 조치는 발표에서 자세히 설명되지 않았다. 그러나 회사는 이러한 딥페이크의 생성 및 배포가 불법인 관할 구역에서 제한이 적용될 것이라고 밝혔다. 이는 사용자의 위치에 따라 AI 기능을 제한하는 지오펜싱 접근 방식을 시사한다.

캠페인 참가자들과 피해자들은 이번 변화가 너무 늦었다고 주장하며, 해당 기술로 인한 피해는 이미 발생했다고 주장했다. 해당 기술의 영향을 받은 언론인이자 캠페인 참가자인 제스 데이비스는 더 강력한 규제와 예방 조치의 필요성에 대해 목소리를 높여왔다.

이번 사건은 AI 기술 규제와 오용 방지의 지속적인 어려움을 강조한다. X의 Grok 기능 제한 결정은 올바른 방향으로 나아가는 단계이지만, 플랫폼의 초기 감독과 다른 AI 도구에서 유사한 문제가 발생할 가능성에 대한 의문도 제기한다. 이번 결정이 업계에 미치는 영향은 AI 기반 플랫폼에 대한 감시 강화와 책임감 있는 AI 개발 및 배포에 대한 중요성 강조로 이어질 수 있다.