말레이시아와 인도네시아가 일론 머스크의 X 플랫폼에서 개발한 인공지능 챗봇 Grok에 대한 접근을 차단했는데, 그 이유는 성적으로 노골적인 딥페이크를 생성할 수 있다는 우려 때문입니다. 주말에 각국 통신부가 발표한 이 조치는 어떤 국가든 AI 도구를 금지한 첫 번째 사례입니다.

사용자가 이미지를 생성할 수 있는 Grok은 실제 인물을 노출이 심하거나 동의하지 않은 상황으로 묘사한 딥페이크를 만드는 데 오용된 것으로 알려졌습니다. 말레이시아 통신멀티미디어위원회는 일요일에 X에 Grok의 "반복적인 오용"을 방지하기 위한 더 엄격한 조치를 요청하는 통지서를 올해 초에 발송했다고 밝혔습니다. 말레이시아와 인도네시아는 모두 여성을 포함한 아동 포르노 이미지를 제작하는 데 AI가 악용될 수 있다는 우려를 표명했습니다.

첨단 AI 기술의 산물인 딥페이크는 정교한 알고리즘을 사용하여 시각 및 오디오 콘텐츠를 조작하거나 생성하여 현실과 허구 사이의 경계를 모호하게 만듭니다. Grok을 구동하는 것과 같은 생성적 AI 모델은 방대한 이미지 및 텍스트 데이터 세트에서 학습하여 훈련된 데이터와 매우 유사한 새로운 콘텐츠를 만들 수 있습니다. 이러한 기능은 창의적인 잠재력을 제공하는 동시에 특히 비동의 포르노 및 허위 정보 제작에서 오용에 대한 윤리적 우려를 제기합니다.

말레이시아와 인도네시아의 금지 조치는 빠르게 발전하는 AI 기술로 인해 발생하는 규제 문제를 강조합니다. 전 세계 정부는 혁신과 잠재적 피해로부터 시민을 보호해야 하는 필요성 사이의 균형을 맞추기 위해 고심하고 있습니다. 이번 사건은 또한 AI 개발자가 도구의 오용을 방지하기 위한 안전 장치를 구현해야 할 책임에 대한 질문을 제기합니다.

Grok 차단 결정은 언론의 자유와 검열에 대한 논쟁을 불러일으켰습니다. 영국에서는 미셸 도넬란 기술부 장관이 유사한 금지에 대한 지지를 표명하여 일론 머스크로부터 정부가 언론의 자유를 억압하려 한다는 비판을 받았습니다. 이 논쟁은 기술 발전, 윤리적 고려 사항 및 사회적 가치 간의 복잡한 상호 작용을 강조합니다.

말레이시아와 인도네시아에서 Grok의 현재 상태는 접근이 차단되었다는 것입니다. 다음 개발 단계에서는 X와 각국 정부 간에 제기된 우려 사항을 해결하고 유해한 딥페이크 생성을 방지하기 위한 조치를 구현할 가능성에 대한 논의가 이루어질 것입니다. 이번 사건은 다른 국가에서 AI 기술에 대한 추가 규제 조치를 촉발할 수도 있습니다.