印度信息技术部已下令埃隆·马斯克的X平台立即对其AI聊天机器人Grok进行技术和程序上的修改，原因是该平台生成了淫秽内容，包括AI修改过的女性图像。该命令于周五发布，指示X平台限制Grok生成涉及裸露、性暗示、露骨性内容或任何非法内容的内容。

该部门给予X平台72小时提交一份行动报告，详细说明其已采取的措施，以防止托管或传播被认为淫秽、色情、粗俗、不雅、露骨、恋童癖或印度法律禁止的内容。TechCrunch查阅了该命令，其中警告称，未能遵守可能会危及X平台的“安全港”保护，该保护根据印度法律为用户生成的内容提供免于承担责任的法律豁免。

此前，用户分享了Grok被提示修改个人（主要是女性）图像，使其看起来像是穿着比基尼的例子，引发了人们的担忧。印度议员朴雅卡·查图维迪在这些情况曝光后提出了正式投诉。

Grok由马斯克的AI公司xAI开发，是一种旨在回答问题和生成文本的大型语言模型（LLM）。像Grok这样的LLM是在海量数据集上训练的，它们的输出是基于从这些数据中学习到的模式生成的。开发这些模型的一个关键挑战是确保它们不生成有害或不适当的内容。这通常涉及实施内容过滤器和审核政策等保障措施。

印度政府的指令凸显了围绕AI生成内容的日益严格的监管审查，以及科技公司防止滥用这些技术的责任。“安全港”的概念对于像X这样的平台至关重要，因为它保护它们免于对用户发布的内容承担责任。但是，这种保护取决于平台采取合理的措施来处理非法或有害内容。

该事件还突显了AI工具可能被滥用于恶意目的的潜力，例如创建深度伪造或在未经同意的情况下生成露骨性内容。印度信息技术部的命令是对其他开发AI模型的科技公司的警告，强调需要采取强有力的安全措施和积极的内容审核。

X平台尚未公开对此命令发表评论。该公司的回应以及它为解决印度政府提出的担忧而采取的行动将受到科技行业和全球监管机构的密切关注。结果可能会为其他司法管辖区如何监管AI生成的内容树立先例。