일론 머스크의 AI 회사인 X. Corp는 Grok의 AI 이미지 생성 기능에 대한 접근을 제한하여 X 플랫폼의 유료 구독자만 사용할 수 있도록 했습니다. 이러한 변경은 여성과 어린이를 묘사한 성적 이미지와 나체 이미지를 생성하는 도구의 능력에 대한 광범위한 비판에 따른 것입니다. Grok은 금요일 사용자 문의에 대한 답변에서 유료 구독자만 플랫폼에서 이미지를 생성하고 편집할 수 있다고 밝혔습니다.
그러나 이러한 제한은 현재 Grok 앱에는 적용되지 않으며, 보도 시점에는 여전히 유료 구독 없이도 이미지를 생성할 수 있었습니다. 원래 일일 제한과 함께 모든 사용자가 사용할 수 있었던 이미지 생성 기능을 통해 편집을 위해 이미지를 업로드하거나 성적 또는 나체 버전을 만들 수 있었습니다. 이러한 기능으로 인해 아동, 배우, 모델 및 공인을 특징으로 하는 비동의적이고 성적인 이미지가 급증하여 국제적인 비난을 불러일으켰습니다.
X와 머스크는 해당 도구의 오용을 공개적으로 비난하며 소셜 미디어 플랫폼에 불법 콘텐츠 게시를 금지하는 정책을 시행하겠다는 회사의 약속을 재확인했습니다. 회사는 "Grok을 사용하여 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 업로드하는 경우와 동일한 결과를 겪게 될 것"이라고 밝혔습니다.
이번 논란은 AI 이미지 생성 기술을 책임감 있게 배포하는 데 내재된 어려움을 강조합니다. 이미지를 조작하고 생성하는 능력은 특히 동의, 개인 정보 보호 및 오용 가능성과 관련하여 중요한 윤리적 문제를 제기합니다. 또한 이번 사건은 유해하거나 불법적인 콘텐츠의 생성 및 유포를 방지하기 위한 강력한 콘텐츠 조정 정책 및 시행 메커니즘의 중요성을 강조합니다.
Grok의 이미지 생성을 유료 구독자로 제한하기로 한 결정은 해당 기술 관리에 대한 X의 접근 방식의 변화를 나타냅니다. 이러한 조치가 해당 도구와 관련된 일부 위험을 완화할 수 있지만, 접근성에 대한 의문과 유료 사용자가 잠재적으로 문제가 있는 AI 기능에 더 많이 접근할 수 있는 이중 시스템의 가능성에 대한 의문도 제기합니다. AI 이미지 생성 기술의 개발 및 배포에 대한 이러한 결정의 장기적인 영향은 아직 알 수 없습니다. 회사는 Grok 앱도 동일한 제한을 받게 될지 여부와 시기를 아직 발표하지 않았습니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요