인도네시아가 AI 포르노 콘텐츠 가능성에 대한 우려를 이유로 토요일 일론 머스크의 Grok 챗봇을 일시적으로 차단했다. 이번 조치는 이러한 특정 위험으로 인해 해당 AI 도구에 대한 접근을 거부한 첫 번째 사례이다.

인도네시아 정부의 이번 조치는 유럽과 아시아 전역의 정부, 연구원, 규제 기관의 감시가 강화된 데 따른 것이다. 이들 중 일부는 해당 애플리케이션에 의한 성적 콘텐츠 생성에 대한 조사를 시작했다. 이러한 우려는 Grok이 비동의 성적 딥페이크를 생성할 가능성에 초점을 맞추고 있으며, 인도네시아 정부는 이를 심각한 위반으로 간주한다.

Grok은 일론 머스크가 설립한 인공지능 스타트업 xAI에서 개발했다. 목요일, xAI는 선정적인 결과물, 특히 노출이 심한 어린이를 묘사한 이미지를 생성할 수 있도록 허용한 안전 장치 미비를 해결하기 위해 이미지 생성 및 편집 기능을 유료 구독자로 제한한다고 발표했다. 이러한 결정은 부적절한 콘텐츠를 생성하는 AI의 능력에 대한 비판과 보고가 증가함에 따라 내려졌다.

Grok의 핵심 기술은 많은 현대 AI 챗봇과 마찬가지로 대규모 언어 모델(LLM)에 의존한다. 이러한 모델은 방대한 텍스트 및 이미지 데이터 세트를 통해 학습하여 학습한 패턴을 기반으로 새로운 콘텐츠를 생성할 수 있다. 그러나 이러한 학습 과정의 본질은 편향되거나 불쾌감을 주거나, 이 경우 성적으로 노골적인 자료의 생성과 같은 의도치 않은 결과로 이어질 수 있다. 문제는 유해한 콘텐츠 생성을 방지하면서 창의적이고 생산적인 사용을 허용하는 방식으로 이러한 모델의 출력을 효과적으로 제어하는 데 있다.

이번 사건은 빠르게 발전하는 AI 기술의 복잡한 윤리적, 사회적 의미를 강조한다. 현실적인 이미지와 비디오를 생성하는 능력은 개인을 괴롭히거나 명예를 훼손하거나 착취하기 위한 딥페이크 제작을 포함하여 오용 가능성에 대한 심각한 우려를 제기한다. 전 세계 규제 기관은 개인과 사회를 보호해야 할 필요성과 AI 분야의 혁신을 장려하려는 욕구 사이에서 균형을 맞추면서 이러한 문제를 해결하기 위해 고심하고 있다.

인도네시아의 일시적인 차단은 AI 기술의 책임감 있는 개발 및 배포에 대한 국제적인 우려가 커지고 있음을 강조한다. xAI가 Grok과 관련된 위험을 더욱 완화하기 위해 어떤 조치를 취할지, 그리고 다른 국가들이 Grok에 대한 접근을 제한하는 데 있어 인도네시아의 선례를 따를지는 미지수이다. 상황은 계속 진행 중이며, 인도네시아 정부는 Grok에 대한 접근이 복원될 수 있는 조건에 대해 아직 구체적으로 밝히지 않았다.