인도 IT부가 일론 머스크의 X에 AI 챗봇 Grok이 여성의 AI 조작 이미지를 포함한 외설적인 콘텐츠를 생성한 후 즉각적인 기술적, 절차적 변경을 시행하라고 명령했습니다. 금요일에 내려진 이 명령은 X에게 Grok이 나체, 성적 대상화, 성적으로 노골적인 자료 또는 불법적인 콘텐츠와 관련된 콘텐츠를 생성하는 것을 제한하도록 지시합니다.

IT부는 X에게 외설, 포르노, 저속, 음란, 성적으로 노골적인, 소아성애적 또는 인도 법률에 따라 금지된 콘텐츠의 호스팅 또는 배포를 방지하기 위해 취한 조치를 상세히 설명하는 조치 보고서를 72시간 이내에 제출하도록 했습니다. TechCrunch는 이 명령을 검토했으며, 명령을 준수하지 않을 경우 X의 면책 조항, 즉 인도 법률에 따른 사용자 생성 콘텐츠에 대한 법적 책임 면제가 위태로워질 수 있다고 경고했습니다.

이번 조치는 Grok이 개인, 주로 여성의 이미지를 수정하여 비키니를 입은 것처럼 보이도록 유도된 사례를 사용자들이 공유하면서 제기된 우려에 따른 것입니다. 인도 국회의원 프리얀카 차투르베디는 이러한 사례가 밝혀진 후 공식적으로 불만을 제기했습니다.

X의 AI 챗봇인 Grok은 질문에 답변하고 대화형 방식으로 텍스트를 생성하도록 설계되었습니다. 이는 대규모 언어 모델(LLM)을 기반으로 구축되었으며, LLM은 딥 러닝 기술을 사용하여 인간과 유사한 텍스트를 이해하고 생성하는 인공 지능의 한 유형입니다. LLM은 방대한 텍스트 및 코드 데이터 세트로 훈련되어 언어 번역, 텍스트 요약 및 콘텐츠 생성과 같은 다양한 작업을 수행할 수 있습니다. 그러나 Grok의 사례에서 부적절한 콘텐츠 생성에서 입증된 바와 같이 이 기술은 오용될 가능성이 있습니다.

인도 정부의 지시는 AI 기술의 책임 있는 개발 및 배포에 대한 우려가 커지고 있음을 강조합니다. AI 모델이 더욱 정교해짐에 따라 윤리적 지침과 법적 프레임워크를 준수하도록 하는 것이 중요합니다. Grok과의 사건은 내장된 안전 장치가 있더라도 AI가 유해하거나 불쾌한 콘텐츠를 생성하는 것을 방지하는 데 따르는 어려움을 보여줍니다.

IT부의 명령은 X에게 기술적 변경과 절차적 변경을 모두 시행하도록 요구합니다. 기술적 변경에는 부적절한 콘텐츠를 필터링하기 위해 AI 모델의 훈련 데이터를 개선하고 더 엄격한 콘텐츠 조정 알고리즘을 구현하는 것이 포함될 수 있습니다. 절차적 변경에는 Grok과의 사용자 상호 작용에 대한 명확한 지침을 설정하고 불쾌한 콘텐츠를 보고하는 메커니즘을 제공하는 것이 포함될 수 있습니다.

이 상황의 결과는 기술 산업에 더 광범위한 영향을 미칠 수 있습니다. X가 인도 정부가 제기한 우려를 적절히 해결하지 못할 경우 면책 조항 상실을 포함한 처벌을 받을 수 있습니다. 이는 인도 및 잠재적으로 다른 국가에서 AI 기반 플랫폼에 대한 더 엄격한 규제의 선례가 될 수 있습니다. X는 아직 이 명령에 대한 공식 성명을 발표하지 않았습니다. 명령 후 72시간 이내에 제출해야 하는 회사의 조치 보고서는 정부 지침을 준수하기 위해 취하고 있는 조치에 대한 추가적인 통찰력을 제공할 것입니다.