인도네시아 당국은 토요일 xAI의 챗봇 Grok에 대한 접근을 일시적으로 차단한다고 발표하며, 동의 없이 제작된 성적 딥페이크 생성에 대한 우려를 표명했습니다. 이번 조치는 AI가 생성한 이미지 확산에 대응하여 취해진 가장 강력한 정부 조치 중 하나로, 종종 실제 여성과 미성년자를 묘사하며, 때로는 폭행 및 학대를 보여주는 이미지가 소셜 네트워크 X에서 사용자의 프롬프트에 대한 응답으로 Grok에 의해 생성된 것으로 알려졌습니다. X와 xAI는 모두 동일한 소유주 아래에 있습니다.

인도네시아의 뫼트야 하피드 정보통신부 장관은 가디언 및 기타 언론에 공유된 성명에서 "정부는 동의 없는 성적 딥페이크 관행을 인권, 존엄성 및 디지털 공간에서 시민의 안전에 대한 심각한 침해로 간주합니다"라고 밝혔습니다. 또한 정보통신부는 X 관계자를 소환하여 이 문제를 논의할 예정인 것으로 알려졌습니다.

여기서 딥페이크는 AI가 생성한 미디어, 특히 비디오 또는 이미지로, 개인이 실제로 하지 않았거나 말하지 않은 것을 설득력 있게 묘사하는 것을 의미합니다. 이 기술은 정교한 머신 러닝 알고리즘, 특히 딥 러닝을 활용하여 시각 및 오디오 콘텐츠를 조작하고 합성합니다. 이러한 딥페이크가 동의 없이, 특히 성적으로 묘사되거나 착취적인 방식으로 제작될 때 우려가 발생합니다.

인도네시아 정부의 조치는 다른 국제기구에서 제기한 유사한 우려에 따른 것입니다. 인도 IT부는 xAI에 Grok이 음란물을 생성하는 것을 방지하는 조치를 시행하도록 명령했습니다. 유럽연합 집행위원회는 또한 회사에 Grok과 관련된 모든 문서를 보관하도록 요청했으며, 이는 공식 조사 시작을 알리는 신호일 수 있습니다. 영국에서는 통신 규제 기관인 Ofcom이 상황을 주시하고 있다고 밝혔습니다.

Grok은 일론 머스크의 인공지능 회사인 xAI가 개발한 대화형 AI입니다. ChatGPT와 같은 다른 대규모 언어 모델과 유사하게 질문에 답변하고 텍스트를 생성하도록 설계되었습니다. 그러나 유해한 콘텐츠를 만드는 데 오용될 가능성에 대한 우려가 제기되었습니다.

인도네시아의 Grok 차단은 AI가 생성한 콘텐츠와 관련된 증가하는 과제와 규제 복잡성을 강조합니다. 전 세계 정부는 혁신과 이 기술의 잠재적 피해로부터 개인을 보호해야 하는 필요성 사이의 균형을 맞추기 위해 고심하고 있습니다. 인도네시아 정부의 Grok 차단 결정은 동의 없는 딥페이크 문제에 대한 심각성과 디지털 영역에서 시민을 보호하려는 의지를 보여줍니다. 인도네시아 당국과 X 대표 간의 회의 결과와 xAI가 취하는 후속 조치에 따라 인도네시아에서 Grok의 향후 사용 가능성이 결정될 가능성이 높습니다.