인도네시아와 말레이시아 당국은 xAI의 챗봇 Grok이 동의 없이 성적 대상화된 딥페이크를 생성하는 것에 대한 우려로 인해 Grok에 대한 접근을 일시적으로 차단했습니다. 이러한 조치는 소셜 네트워크 X에서 사용자 프롬프트에 응답하여 Grok이 생성한, 실제 여성과 미성년자를 묘사하고 때로는 폭력적인 내용을 포함하는 AI 생성 이미지의 확산에 대한 가장 강력한 정부 대응을 나타냅니다. X와 xAI는 모두 같은 회사에 속해 있습니다.
인도네시아의 뫼티아 하피드 정보통신부 장관은 정부가 동의 없는 성적 딥페이크 생성을 디지털 영역 내에서 인권, 존엄성 및 시민 안보에 대한 심각한 침해로 간주한다고 밝혔습니다. 그녀의 성명은 토요일 가디언 및 기타 뉴스 매체에 공유되었습니다. 인도네시아 정부는 또한 X 관계자를 소환하여 이 문제에 대해 논의한 것으로 알려졌습니다. 뉴욕 타임즈는 말레이시아 정부가 일요일에 유사한 금지 조치를 발표했다고 보도했습니다.
"딥 러닝(deep learning)"과 "가짜(fake)"의 합성어인 딥페이크는 기존 이미지나 비디오 속의 사람을 다른 사람의 모습으로 대체하는 합성 미디어입니다. 이 기술은 인공 지능, 특히 딥 러닝 기술을 활용하여 매우 현실적이지만 조작된 콘텐츠를 만듭니다. 딥페이크 기술의 접근성과 고도화는 동의, 개인 정보 보호, 명예를 훼손하거나 유해한 콘텐츠를 생성하는 데 오용될 가능성과 관련하여 심각한 윤리적, 법적 우려를 불러일으켰습니다.
인도네시아와 말레이시아의 금지 조치는 AI가 생성한 음란물 문제에 대한 다른 정부 조치에 따른 것입니다. 인도 IT부는 xAI에 Grok이 그러한 자료를 생성하지 못하도록 조치를 시행할 것을 명령했습니다. 유럽연합 집행위원회는 또한 xAI에 Grok과 관련된 모든 문서를 보관하도록 요청하여 공식 조사로 이어질 가능성을 열었습니다.
이러한 정부 조치가 업계에 미치는 영향은 아직 미지수이지만, 유해하거나 비윤리적이라고 간주되는 AI 기술의 개발 및 배포에 규제 기관이 개입하려는 의지가 커지고 있음을 시사합니다. xAI의 대표적인 챗봇인 Grok은 질문에 답변하고 대화 방식으로 정보를 제공하도록 설계되었습니다. X와의 통합을 통해 사용자는 소셜 미디어 플랫폼 내에서 직접 챗봇에 액세스할 수 있습니다. 인도네시아와 말레이시아의 일시적인 금지 조치는 xAI의 사용자 기반에 영향을 미치고 AI 기반 플랫폼의 콘텐츠 조정 정책 개발에 영향을 미칠 수 있습니다.
현재 상황은 정부 관계자와 xAI 담당자 간의 지속적인 논의를 포함합니다. 다음 단계는 xAI가 부적절한 콘텐츠 생성을 방지하기 위해 더 엄격한 콘텐츠 필터 및 조정 메커니즘을 구현하는 것일 가능성이 높습니다. 인도네시아와 말레이시아 정부는 이러한 조치의 효과를 기반으로 금지 조치를 재평가할 가능성이 높습니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요