인도네시아 당국은 토요일 xAI의 챗봇 Grok에 대한 접근을 일시적으로 차단한다고 발표하며, 비동의 성적 딥페이크 생성에 대한 우려를 표명했습니다. 이번 조치는 소셜 네트워크 X에서 사용자 프롬프트에 대한 응답으로 Grok이 제작한 것으로 알려진 폭행 및 학대 묘사를 포함하여 실제 여성과 미성년자를 묘사한 AI 생성 이미지의 확산에 대한 가장 강력한 정부 대응 중 하나입니다. X와 xAI는 같은 회사가 소유하고 있습니다.
인도네시아의 통신 및 디지털 장관인 므우티아 하피드는 정부가 비동의 성적 딥페이크 생성을 디지털 영역 내 시민의 인권, 존엄성 및 안전에 대한 심각한 침해로 간주한다고 밝혔습니다. 그녀의 성명은 가디언 및 기타 뉴스 매체에 공유되었습니다. 또한, 해당 부처는 X 관계자를 소환하여 이 문제를 논의한 것으로 알려졌습니다.
"딥러닝(deep learning)"과 "가짜(fake)"의 합성어인 딥페이크는 인공지능, 특히 딥러닝 기술을 활용하여 매우 현실적이지만 조작된 비디오 또는 이미지를 생성합니다. 이러한 기술은 기존 비디오에서 얼굴을 설득력 있게 바꾸거나 완전히 새로운 합성 콘텐츠를 생성할 수 있습니다. 문제는 명예훼손 콘텐츠 제작, 허위 정보 확산, 그리고 이 경우와 같이 비동의 포르노 생성과 같은 악의적인 사용 가능성에 있습니다.
xAI의 챗봇인 Grok은 대화형 스타일로 질문에 답변하도록 설계되었으며 X 플랫폼에 통합되어 있습니다. xAI에 따르면 Grok은 다른 AI 시스템이 거부할 수 있는 질문에 답변할 수 있다는 점에서 차별화됩니다. 그러나 이 기능은 유해 콘텐츠 생성에 기여한 것으로 보입니다.
인도네시아 정부의 조치는 다른 국가에서 제기된 유사한 우려에 따른 것입니다. 인도 IT부는 xAI에 Grok이 음란한 콘텐츠를 생성하지 못하도록 조치를 취할 것을 명령했습니다. 유럽연합 집행위원회 또한 Grok과 관련된 모든 문서를 보관하도록 회사에 요청했으며, 이는 공식 조사 시작을 알리는 신호일 수 있습니다. 영국에서는 통신 규제 기관인 Ofcom이 이 문제에 대한 인식을 밝혔습니다.
인도네시아의 Grok 차단은 급속하게 발전하는 AI 기술로 인해 발생하는 규제 문제의 증가를 강조합니다. 전 세계 정부는 혁신과 AI 생성 콘텐츠의 잠재적 피해로부터 시민을 보호해야 하는 필요성 사이의 균형을 맞추기 위해 고심하고 있습니다. 인도네시아 정부의 Grok 차단 결정은 일시적이더라도 이러한 우려를 해결하기 위해 단호한 조치를 취하려는 의지를 보여줍니다. 인도네시아 당국과 X 담당자 간의 논의 결과는 아직 알 수 없지만, 이 지역의 AI 챗봇의 미래 가용성 및 규제에 영향을 미칠 가능성이 높습니다.
Discussion
대화에 참여하세요
첫 댓글을 남겨보세요