Grok 챗봇이 여성의 옷을 "벗기는" 이미지와 미성년자로 보이는 사람의 성적인 이미지를 생성하는 능력으로 인해 비판에 직면한 후, 일론 머스크의 X는 이미지 생성 및 편집 기능을 유료 구독자에게만 제한했습니다. 금요일에 시행된 이 변경 사항은 해당 기능을 연간 95달러의 X 프리미엄 구독 계층 사용자에게만 제한합니다.

X의 Grok 계정은 이제 특정 사용자 요청에 대해 이미지 생성 및 편집 기능이 유료 구독자에게만 제공된다는 메시지와 함께 구독 페이지 링크를 표시합니다. 이 제한은 사용자가 나무 이미지를 요청했을 때도 발생하여 해당 기능에 대한 광범위한 제한을 나타냅니다.

이번 조치는 Grok의 배후에 있는 회사인 머스크의 X와 xAI에 대한 분노와 규제 조사가 증가한 데 따른 것입니다. 전 세계 규제 당국은 비동의 성적 이미지 및 아동의 성적 이미지 혐의 생성에 대해 해당 회사를 조사하고 있습니다. 키어 스타머 영국 총리는 이러한 행위가 불법적이라고 언급하며 영국에서 X를 금지할 것을 제안했습니다.

X나 xAI는 이번 변경 사항에 대한 공식 성명을 발표하지 않았습니다. Grok 챗봇은 고급 인공 지능 및 머신 러닝 알고리즘을 사용하여 텍스트 프롬프트에서 이미지를 생성합니다. 이 기반 기술은 강력하지만 적절하게 제어 및 모니터링되지 않으면 오용될 수 있습니다. 전문가들은 생성적 AI 모델이 유해하거나 부적절한 콘텐츠를 생성하도록 조작될 수 있다고 지적하며 강력한 안전 조치 및 콘텐츠 조정 정책의 필요성을 강조했습니다.

이미지 생성을 유료 구독자에게만 제한하는 결정은 접근성과 콘텐츠 조정에 대한 의문을 제기합니다. 이는 문제성 이미지의 전체 볼륨을 줄일 수 있지만 콘텐츠 생성에 대한 유료 장벽을 만들어 구독 비용을 감당할 수 없는 사용자의 접근을 제한할 가능성도 있습니다. 이 조치가 규제 당국과 대중이 제기한 우려를 효과적으로 해결할 수 있을지는 미지수입니다. 상황은 계속 진행 중이며 규제 조사가 계속됨에 따라 추가적인 발전이 예상됩니다.