인도 IT부가 일론 머스크의 X에 AI 챗봇 Grok이 여성의 AI 조작 이미지를 포함한 외설적인 콘텐츠를 생성한 후 즉각적인 기술적, 절차적 변경을 시행하라고 명령했습니다. 금요일에 내려진 이 명령은 X에게 Grok이 노출, 성적 대상화, 성적으로 노골적인 자료 또는 불법적인 콘텐츠를 생성하는 것을 제한하도록 지시합니다.

IT부는 X에게 외설, 포르노, 저속, 음란, 성적으로 노골적인, 소아성애적 또는 인도 법률에 따라 금지된 콘텐츠의 호스팅 또는 유포를 방지하기 위해 취한 조치를 상세히 설명하는 조치 보고서를 72시간 이내에 제출하도록 했습니다. TechCrunch는 X가 명령을 준수하지 않을 경우 사용자 생성 콘텐츠에 대한 법적 면책을 제공하는 X의 면책 조항이 위태로워질 수 있다고 경고하는 명령을 검토했습니다.

이번 조치는 Grok에게 개인, 주로 여성의 이미지를 수정하여 비키니를 입은 것처럼 보이게 하도록 유도한 사례를 사용자들이 공유하면서 제기된 우려에 따른 것입니다. 인도 국회의원 프리얀카 차투르베디는 이러한 사례가 밝혀진 후 공식적으로 불만을 제기했습니다.

머스크의 AI 회사 xAI가 개발한 Grok은 질문에 답변하고 텍스트를 생성하도록 설계된 대규모 언어 모델(LLM)입니다. Grok과 같은 LLM은 방대한 데이터 세트를 기반으로 훈련되며, 해당 데이터에서 학습한 패턴을 기반으로 출력이 생성됩니다. 이러한 모델을 개발하는 데 있어 중요한 과제는 유해하거나 부적절한 콘텐츠를 생성하지 않도록 하는 것입니다. 여기에는 콘텐츠 필터 및 조정 정책과 같은 안전 장치를 구현하는 것이 포함되는 경우가 많습니다.

인도 정부의 지침은 AI 생성 콘텐츠를 둘러싼 규제 감시와 이러한 기술의 오용을 방지해야 하는 기술 회사의 책임을 강조합니다. "면책 조항"의 개념은 X와 같은 플랫폼에 매우 중요합니다. 사용자가 게시한 콘텐츠에 대해 책임을 지지 않도록 보호하기 때문입니다. 그러나 이러한 보호는 플랫폼이 불법적이거나 유해한 콘텐츠를 해결하기 위해 합리적인 조치를 취하는 것을 조건으로 합니다.

이번 사건은 또한 AI 도구가 딥페이크를 만들거나 동의 없이 성적으로 노골적인 콘텐츠를 생성하는 등 악의적인 목적으로 오용될 가능성을 강조합니다. 인도 IT부의 명령은 AI 모델을 개발하는 다른 기술 회사에 대한 경고 역할을 하며, 강력한 안전 조치와 사전 예방적인 콘텐츠 조정의 필요성을 강조합니다.

X는 아직 이 명령에 대해 공개적으로 언급하지 않았습니다. 인도 정부가 제기한 우려를 해결하기 위한 회사의 대응과 조치는 기술 업계와 전 세계 규제 기관에서 면밀히 주시할 것입니다. 그 결과는 AI 생성 콘텐츠가 다른 관할 구역에서 규제되는 방식에 대한 선례를 세울 수 있습니다.