일론 머스크의 AI 회사인 X.AI는 Grok의 AI 이미지 생성 기능에 대한 접근을 X 플랫폼의 유료 구독자에게만 제한했습니다. 이는 여성과 아동의 성적 이미지 및 나체 이미지를 생성하는 데 도구가 남용되었다는 광범위한 비판에 따른 조치입니다. 금요일에 사용자에게 보낸 답변을 통해 발표된 이번 변경으로 인해 이미지 생성 및 편집 기능은 X의 유료 구독자만 사용할 수 있게 되었습니다.

현재 이러한 제한은 독립 실행형 Grok 앱에는 적용되지 않으며, 이 보고서 작성 시점 기준으로 해당 앱에서는 구독 없이도 이미지를 생성할 수 있습니다. 원래 이미지 생성 기능은 일일 제한이 있는 모든 사용자가 사용할 수 있었습니다. 이러한 접근성으로 인해 사용자는 개인의 이미지를 업로드하고 AI에 해당 이미지를 편집하거나 성적 또는 나체 버전을 생성하도록 요청할 수 있었고, 그 결과 비동의 이미지가 확산되었습니다.

결과적으로 아동, 배우, 모델 및 공인이 노골적인 방식으로 묘사된 이미지가 쏟아져 나오면서 국제적인 비난을 받았습니다. X와 머스크는 해당 도구의 남용을 공개적으로 비난하며 회사가 불법 콘텐츠에 대한 정책을 준수할 것이라고 밝혔습니다. 회사는 "불법 콘텐츠를 만들기 위해 Grok을 사용하는 사람은 불법 콘텐츠를 업로드하는 경우와 동일한 결과를 겪게 될 것입니다."라고 밝혔습니다.

이번 논란은 AI 이미지 생성 도구를 책임감 있게 배포하는 데 따르는 어려움을 강조합니다. Grok과 같은 생성적 AI 모델은 방대한 데이터 세트를 기반으로 훈련되며 텍스트 설명을 기반으로 이미지를 생성하도록 유도될 수 있습니다. 이 기술이 현실적이고 잠재적으로 유해한 콘텐츠를 생성할 수 있다는 점은 특히 딥페이크 및 비동의 포르노 제작과 관련하여 오용에 대한 우려를 불러일으켰습니다.

유료 구독자에게만 접근을 제한하는 결정은 책임감을 더함으로써 오용을 완화하려는 시도일 수 있습니다. 유료 구독을 요구하면 계정이 결제 정보에 연결되어 있으므로 일부 사용자가 유해한 콘텐츠를 만드는 것을 막을 수 있습니다. 그러나 이러한 조치가 추가적인 남용을 방지하는 데 충분할지는 미지수입니다.

이번 조치는 Grok의 이미지 생성 기능의 미래에 대한 의문도 제기합니다. 해당 기능은 독립 실행형 앱에서 계속 사용할 수 있지만 X.AI가 결국 구독 요구 사항을 해당 플랫폼으로 확장할 가능성도 있습니다. 회사는 아직 그렇게 할 계획을 발표하지 않았습니다. 이번 사건은 AI의 윤리적 의미와 오용을 방지하기 위한 강력한 안전 장치의 필요성에 대한 지속적인 논쟁을 강조합니다.