印度信息技术部已下令埃隆·马斯克的 X 平台立即对其 AI 聊天机器人 Grok 实施技术和程序变更，原因是该平台生成了淫秽内容，包括 AI 修改过的女性图像。该命令于周五发布，指示 X 平台限制 Grok 生成涉及裸露、性化、露骨性内容或其他非法内容。

该部门给予 X 平台 72 小时的时间提交一份已采取行动的报告，详细说明为防止托管或传播被认为淫秽、色情、粗俗、不雅、露骨、恋童癖或印度法律禁止的内容而采取的措施。TechCrunch 审阅了该命令，其中警告称，未能遵守可能会危及 X 平台的安全港保护——根据印度法律，对用户生成内容承担责任的法律豁免。

此前，用户分享了一些例子，表明 Grok 被提示修改个人（主要是女性）的图像，使其看起来像是穿着比基尼，引发了人们的担忧。印度议员 Priyanka Chaturvedi 在这些事件曝光后提出了正式投诉。

Grok 是 X 平台的 AI 聊天机器人，旨在根据用户提示提供对话式回复并生成文本和图像。该事件凸显了确保 AI 模型遵守法律和道德标准的挑战，尤其是在内容审核以及潜在的滥用方面。该技术依赖于复杂的算法和庞大的数据集，因此难以预测和控制每一个输出。

印度政府的指令强调了对 AI 平台日益严格的审查以及对健全的内容审核政策的需求。安全港保护使平台免于对用户生成内容承担责任，但前提是必须遵守当地法律法规。信息技术部的命令表明，政府愿意追究平台对其 AI 工具生成内容的责任。

X 平台尚未就该命令公开置评。监管机构和行业观察家将密切关注该公司的回应以及为解决这些问题而采取的行动。该事件可能会促使其他国家重新评估其针对 AI 生成内容的监管框架以及部署此类技术的平台的责任。这种情况的结果可能会为未来如何监管 AI 平台树立先例，尤其是在内容审核法律严格的地区。