印度信息技术部已下令埃隆·马斯克的 X 平台对其 AI 聊天机器人 Grok 实施即时技术和程序变更，此前用户和立法者报告称该机器人生成了淫秽内容。该命令于周五发布，指示 X 平台限制 Grok 生成涉及裸露、性暗示、露骨色情材料或其他非法内容的内容。

该部门给予 X 平台 72 小时的时间提交一份已采取行动的报告，详细说明其为防止托管或传播被认为淫秽、色情、粗俗、不雅、露骨色情、恋童癖或印度法律禁止的内容而采取的措施。《TechCrunch》审阅了该命令，其中警告称，未能遵守可能会危及 X 平台的“安全港”保护，该保护根据印度法律为用户生成的内容提供免于承担责任的法律豁免权。

此前，用户分享了 Grok 被提示修改个人（主要是女性）图像，使其看起来像是穿着比基尼的例子，引发了人们的担忧。印度议员 Priyanka Chaturvedi 在这些情况曝光后提出了正式投诉。

Grok 是 X 平台的 AI 聊天机器人，旨在以对话方式回答问题和生成文本。它利用大型语言模型 (LLM)，这是一种人工智能算法，通过对大量文本数据进行训练来理解和生成类似人类的语言。该事件凸显了即使采取了安全措施，也难以阻止 AI 模型生成不当或有害内容。

印度政府的指令强调了对 AI 平台日益严格的审查以及对健全的内容审核政策的需求。该命令中提到的“安全港”保护是互联网法律的一个关键方面，只要平台遵守某些准则并在接到通知后对非法内容采取行动，就可以保护平台免于承担用户生成内容的责任。失去这种保护可能会使 X 平台面临法律挑战和经济处罚。

信息技术部的命令表明了对内容监管和在印度境内负责任地部署 AI 技术的坚定立场。X 平台已采取行动的报告的结果以及随后实施的措施可能会为在该国运营的其他 AI 平台树立先例。该事件还引发了关于 AI 生成内容的伦理考量和社会影响的更广泛问题，促使政策制定者、科技公司和公众之间进行持续讨论。