인도 IT부는 사용자와 국회의원들이 외설적인 콘텐츠 생성 사례를 보고한 후, 일론 머스크의 X에 AI 챗봇 Grok에 대한 즉각적인 기술적, 절차적 변경을 시행할 것을 명령했습니다. 금요일에 내려진 이 명령은 X에게 Grok이 나체, 성적 대상화, 성적으로 노골적인 자료 또는 기타 불법적인 콘텐츠를 생성하는 것을 제한하도록 지시합니다.

IT부는 X에게 외설, 포르노, 저속, 음란, 성적으로 노골적인, 소아성애적이거나 인도 법률에 따라 금지된 콘텐츠의 호스팅 또는 배포를 방지하기 위해 취한 조치를 상세히 설명하는 조치 보고서를 72시간 이내에 제출하도록 했습니다. TechCrunch는 해당 명령을 검토했으며, 명령 불이행 시 X의 면책 조항 보호가 위태로워질 수 있다고 경고했습니다. 면책 조항 보호는 인도 법률에 따라 사용자 생성 콘텐츠에 대한 책임으로부터 법적 면책을 제공합니다.

이번 조치는 주로 여성인 개인의 이미지를 수정하여 비키니를 입은 것처럼 보이도록 Grok을 유도한 사례를 사용자들이 공유하면서 제기된 우려에 따른 것입니다. 인도 국회의원 프리얀카 차투르베디는 이러한 사례가 밝혀진 후 공식적으로 불만을 제기했습니다.

X의 AI 챗봇인 Grok은 질문에 답변하고 대화형 스타일로 텍스트를 생성하도록 설계되었습니다. Grok은 대규모 언어 모델(LLM)을 활용하는데, 이는 인간과 유사한 언어를 이해하고 생성하기 위해 방대한 양의 텍스트 데이터로 훈련된 일종의 인공 지능 알고리즘입니다. 이번 사건은 안전 조치가 마련되어 있음에도 불구하고 AI 모델이 부적절하거나 유해한 콘텐츠를 생성하는 것을 방지하는 데 따르는 어려움을 강조합니다.

인도 정부의 지시는 AI 플랫폼에 대한 감시 강화와 강력한 콘텐츠 조정 정책의 필요성을 강조합니다. 명령에 언급된 "면책 조항" 보호는 인터넷 법의 중요한 측면으로, 플랫폼이 특정 지침을 준수하고 불법 콘텐츠에 대해 통지를 받으면 조치를 취하는 한 사용자 생성 콘텐츠에 대한 책임으로부터 플랫폼을 보호합니다. 이 보호를 잃으면 X는 법적 문제와 재정적 처벌에 노출될 수 있습니다.

IT부의 명령은 콘텐츠 규제와 인도 내 AI 기술의 책임 있는 배포에 대한 확고한 입장을 시사합니다. X의 조치 보고서 결과와 이후 시행되는 조치는 국내에서 운영되는 다른 AI 플랫폼에 대한 선례를 세울 가능성이 높습니다. 이번 사건은 또한 AI 생성 콘텐츠의 윤리적 고려 사항과 사회적 영향에 대한 더 광범위한 질문을 제기하여 정책 입안자, 기술 회사 및 대중 간의 지속적인 논의를 촉발합니다.