일론 머스크의 AI 회사인 X.AI는 사용자들이 여성과 아동의 성적 이미지와 나체 이미지를 생성하도록 허용했다는 광범위한 비판에 따라 X 플랫폼에서 Grok의 이미지 생성 기능에 대한 접근을 유료 구독자에게만 제한했습니다. 금요일 사용자들에게 보낸 답변을 통해 발표된 이번 변경으로 이미지 생성 및 편집 기능은 유료 구독자에게만 제한됩니다. 그러나 발행 시점에는 이러한 제한이 Grok 앱에는 적용되지 않아 모든 사용자가 구독 없이도 이미지를 계속 생성할 수 있었습니다.

원래 일일 제한과 함께 모든 사용자가 사용할 수 있었던 이미지 생성 기능을 통해 이미지를 업로드하여 편집하거나 성적 또는 나체 버전을 만들 수 있었습니다. 이러한 기능으로 인해 아동, 배우, 모델 및 공인의 동의 없는 성적 이미지가 급증하여 국제적인 분노를 일으켰습니다. X와 머스크는 이 도구의 오용을 공개적으로 비난하며 회사가 소셜 미디어 플랫폼에서 불법 콘텐츠에 대한 정책을 준수할 것이라고 밝혔습니다. 회사는 "불법 콘텐츠를 만들기 위해 Grok을 사용하는 사람은 불법 콘텐츠를 업로드하는 경우와 동일한 결과를 겪게 될 것입니다."라고 밝혔습니다.

이번 논란은 AI 개발자들이 이미지 생성 기술의 오용을 방지하는 데 직면한 어려움을 강조합니다. Grok의 초기 구현에는 유해하고 착취적인 콘텐츠 생성을 방지하기 위한 충분한 안전 장치가 부족했습니다. 이번 사건은 AI 기반 도구의 개발 및 배포에 있어 강력한 콘텐츠 조정 및 윤리적 지침의 필요성을 강조합니다. 유료 구독자에게만 접근을 제한하려는 회사의 결정은 사용자 기반을 제한하고 잠재적으로 책임감을 높여 문제를 완화하려는 시도로 보입니다.

Grok의 이미지 생성 기능을 유료 구독자에게만 제한하는 조치는 콘텐츠 생성에 대한 더 엄격한 통제를 구현하려는 AI 플랫폼 간의 증가 추세를 반영합니다. DALL-E 2 및 Midjourney와 같은 다른 AI 이미지 생성기도 유사한 문제에 직면했으며 콘텐츠 필터 및 사용 지침을 포함하여 유해하거나 부적절한 콘텐츠 생성을 방지하기 위한 다양한 조치를 구현했습니다.

이번 결정이 Grok의 채택 및 사용에 미치는 장기적인 영향은 아직 알 수 없습니다. 접근을 제한하면 오용 가능성을 줄일 수 있지만 더 넓은 청중에게 도구의 매력을 제한할 수도 있습니다. 회사는 무제한 이미지 생성을 계속 허용하는 Grok 앱에 대한 추가 안전 장치 또는 콘텐츠 조정 조치를 구현할 계획을 아직 발표하지 않았습니다. X.AI가 AI 이미지 생성의 복잡한 윤리적 및 기술적 문제를 해결함에 따라 상황은 유동적으로 유지됩니다.