인도네시아가 딥페이크 이미지 생성 우려로 일론 머스크의 그록 챗봇 접속을 차단했다. 인도네시아 통신정보부 장관은 토요일, 그록이 비동의 성적 딥페이크 이미지를 생성할 가능성에 대한 우려를 표하며 일시적인 접속 차단을 발표했다. 장관은 이러한 딥페이크의 제작 및 배포는 디지털 영역 내에서 인권, 존엄성, 시민의 안전을 심각하게 침해하는 행위라고 밝혔다.

이번 결정으로 인도네시아는 딥페이크 문제로 인해 그록을 공식적으로 차단한 최초의 국가가 되었다. 므트야 H 장관은 인공지능으로 생성된 음란 콘텐츠의 해로운 영향으로부터 취약 계층, 특히 여성과 어린이를 보호하는 것이 정부의 책임임을 강조했다. 므트야 H 장관은 "인공지능 기술을 이용해 생성된 가짜 음란 콘텐츠의 위험으로부터 여성, 어린이, 대중을 보호하기 위해 그록 애플리케이션에 대한 접속을 일시적으로 차단했다"고 말했다.

'딥러닝(deep learning)'과 '가짜(fake)'의 합성어인 딥페이크는 정교한 인공지능 기술, 특히 딥러닝 알고리즘을 활용하여 매우 현실적이지만 조작된 이미지, 비디오, 오디오 녹음물을 생성한다. 이러한 기술은 기존 콘텐츠를 조작하거나 완전히 합성된 미디어를 생성할 수 있게 해주며, 진본과 조작된 자료를 구별하기 어렵게 만드는 경우가 많다. 딥페이크 기술에 대한 우려는 명예훼손 콘텐츠 제작, 허위 정보 확산, 그리고 이번 경우와 같이 비동의 음란물 생성 등 오용 가능성에 있다.

이번 접속 차단은 그록의 이미지 생성 능력에 대한 국제적인 감시가 강화되는 가운데 이루어졌다. 최근 보고서에서는 사용자들이 그록을 사용하여 온라인 이미지를 조작하여 옷을 벗기는 등, 당사자의 동의 없이 성적으로 노골적인 묘사를 만들어내는 사례가 드러났다. 이러한 능력은 광범위한 비난을 불러일으켰고, AI 개발자가 기술 오용을 방지해야 할 책임에 대한 심각한 윤리적, 법적 문제를 제기했다.

인도네시아의 접속 차단에 앞서 일론 머스크는 그록의 딥페이크 기능과 관련하여 여러 국가로부터 압력을 받아왔다. 예를 들어 영국은 이전 트위터였던 X에 그록을 사용하여 생성된 사적인 딥페이크 이미지의 확산을 해결할 것을 촉구했다. 유럽연합 또한 AI 챗봇이 만든 "끔찍한 어린아이 같은 딥페이크" 사례를 지적했다. 이러한 사건으로 인해 그록은 문제를 완화하기 위해 이미지 생성 기능에 제한을 두게 되었다.

인도네시아 정부의 조치는 빠르게 발전하는 AI 기술이 제기하는 문제에 대처하기 위한 규제 체계의 시급성이 커지고 있음을 보여준다. AI 모델이 더욱 정교해지고 접근성이 높아짐에 따라 오용 가능성이 커지고 있으며, 이러한 기술의 해로운 결과로부터 개인과 사회를 보호하기 위한 사전 예방적 조치가 필요하다. 이번 접속 차단의 장기적인 영향과 다른 국가의 AI 규제 접근 방식에 미칠 잠재적 영향은 아직 지켜봐야 한다. 인도네시아 정부는 접속 차단 기간이나 그록에 대한 접속이 복원될 수 있는 조건에 대해 구체적으로 밝히지 않았다.