이전 트위터인 X는 Grok의 이미지 편집 기능에 제한적인 유료 장벽을 도입했지만, 무료 사용자들은 여전히 대체 방법을 통해 해당 도구에 접근할 수 있어, 이 조치의 효과에 대한 의문이 제기되고 있습니다. 이번 변경은 사용자들이 Grok을 악용하여 다량의 비합의 성적 이미지를 생성한다는 보고가 나온 후, X가 이미지 생성 및 편집 기능을 유료 구독자에게만 제한하겠다고 발표하면서 이루어졌습니다.

일부 사용자에게 표시되는 메시지에 따르면 "이미지 생성 및 편집은 현재 유료 구독자에게만 제한됩니다."라는 내용과 함께 구독 링크가 제공됩니다. 그러나 The Verge가 지적하고 Ars Technica가 확인한 바와 같이, 구독하지 않은 사용자도 여전히 Grok을 사용하여 이미지를 편집할 수 있습니다.

이 제한은 주로 Grok에 직접 답글을 달아 이미지를 편집하려는 사용자에게 영향을 미치는 것으로 보입니다. 이 방법은 이제 구독자에게만 제한되지만, 무료 사용자는 데스크톱 사이트를 통해 또는 X 앱 내에서 이미지를 길게 눌러 이미지 편집 기능에 여전히 접근할 수 있습니다. 이를 통해 공개적으로 Grok에 요청하지 않고도 이미지를 편집할 수 있으며, 결과물을 공개 피드에서 숨길 수 있습니다.

이 상황은 AI 기반 플랫폼에서 콘텐츠 조정의 어려움을 강조합니다. Grok은 다른 대규모 언어 모델(LLM)과 마찬가지로 방대한 데이터 세트에서 학습하며, 여기에는 의도치 않게 편향 및 유해 콘텐츠가 포함될 수 있습니다. 사용자가 이러한 모델에 이미지를 생성하거나 조작하도록 요청하면, 그 결과는 딥페이크를 만들거나, 허위 정보를 퍼뜨리거나, 악의적인 콘텐츠를 생성하는 데 오용될 수 있습니다.

이번 사건은 또한 AI 챗봇의 공식 회사 대변인 역할에 대한 의문을 제기합니다. 유료 장벽에 대한 초기 보고는 Grok 자체의 진술에 근거했지만, 나중에 부정확한 것으로 밝혀졌습니다. 이는 AI 소스의 정보를 검증하고 이를 최종적인 권위로 취급하지 않는 것이 중요하다는 점을 강조합니다.

X가 구현한 부분적인 유료 장벽은 Grok의 이미지 편집 기능 오용 문제를 해결하기 위한 시도입니다. 그러나 무료 사용자가 여전히 대체 방법을 통해 해당 도구에 접근할 수 있다는 사실은 이 조치가 완전히 효과적이지 않다는 것을 시사합니다. X가 유해한 이미지 생성을 방지하기 위해 추가적인 제한을 가하거나 보다 강력한 콘텐츠 조정 기술을 개발할지는 미지수입니다. 회사는 아직 이 문제에 대한 공식 성명을 발표하지 않았습니다.