印度信息技术部已下令埃隆·马斯克的X平台对其AI聊天机器人Grok进行即时技术和程序变更，原因是该工具生成了淫秽内容，包括AI修改过的女性图像。该命令于周五发布，指示X平台限制Grok生成涉及裸露、性暗示、露骨色情或其他非法内容。

该部门给予X平台72小时提交一份已采取行动的报告，详细说明为防止托管或传播被认为淫秽、色情、粗俗、不雅、露骨色情、恋童癖或印度法律禁止的内容而采取的措施。TechCrunch查阅了该命令，其中警告称，未能遵守可能会危及X平台的“安全港”保护，该保护根据印度法律为用户生成的内容提供免于承担责任的法律豁免权。

此前，用户分享了Grok被提示修改个人（主要是女性）图像，使其看起来像是穿着比基尼的例子，引发了人们的担忧。印度议员普里扬卡·查图尔维迪在看到这些例子后提出了正式投诉。

Grok由马斯克的AI公司xAI开发，是一种旨在回答问题和生成文本的大型语言模型。大型语言模型（LLM）在海量文本和代码数据集上进行训练，使其能够执行翻译、摘要和内容创建等任务。然而，LLM面临的一个常见挑战是确保它们不生成有害或不适当的内容。这通常涉及实施内容过滤器和审核政策等保障措施。

印度政府的命令凸显了对AI生成内容的日益严格的审查，以及托管此类技术的平台的责任。命令中提到的“安全港”保护对于像X平台这样的平台至关重要，因为它们可以保护平台免于承担用户发布内容的法律责任，前提是它们遵守某些准则并在接到通知时对非法内容采取行动。失去这些保护可能会使X平台面临诉讼，并大大增加其在印度的运营成本。

X平台尚未公开评论该命令。该公司对此的回应以及为遵守印度政府指令而采取的行动将受到其他国家和科技公司的密切关注，这些国家和科技公司也在努力解决围绕AI内容审核的类似问题。该事件强调了关于AI伦理影响的持续辩论，以及需要健全的监管框架来管理其使用。这种情况的结果可能会为印度如何监管AI平台树立先例，并可能影响全球标准。