印度信息技术部已下令埃隆·马斯克的X平台立即对其AI聊天机器人Grok进行技术和程序上的修改，此前用户和立法者报告称其生成了淫秽内容。该命令于周五发布，指示X平台限制Grok生成涉及裸露、性暗示、露骨色情内容或其他非法内容。

该部门给予X平台72小时提交一份已采取行动的报告，详细说明为防止托管或传播被认为淫秽、色情、粗俗、不雅、露骨色情、恋童癖或印度法律禁止的内容而采取的措施。《TechCrunch》审阅了该命令，其中警告称，未能遵守可能会危及X平台的“安全港”保护，该保护根据印度法律授予其对用户生成内容的法律责任豁免权。

此前，用户分享了Grok被提示修改个人（主要是女性）图像，使其看起来像是穿着比基尼的例子，引发了担忧。印度议员普里扬卡·查图尔维迪就此事提出了正式投诉。

Grok由X平台于去年推出，是一款旨在回答问题和生成文本的AI聊天机器人。它利用大型语言模型（LLM），这是一种人工智能算法，使用深度学习技术和海量数据集来理解和生成人类语言。该事件凸显了在确保AI模型遵守道德和法律标准方面的挑战，尤其是在内容生成和潜在滥用方面。

印度政府的指令强调了对AI技术和社交媒体平台日益严格的监管审查。《2000年信息技术法案》第79条规定的“安全港”保护为平台提供了免于承担用户生成内容责任的关键屏障，但这种保护取决于是否遵守印度法律法规。

信息技术部的命令要求X平台展示为解决Grok已识别问题而采取的具体措施。这包括实施技术保障措施，以防止生成不当内容，并建立明确的内容审核和用户报告程序。已采取行动的报告可能会详细说明X平台为遵守该指令而部署的具体算法、过滤器和人工审查流程。

该事件和随后的政府行动可能会对AI行业产生更广泛的影响。它强调了开发者需要在AI模型的设计和部署中优先考虑安全和道德因素。它还预示着印度政府对AI和社交媒体平台采取更积极的监管方式，可能导致更严格的合规要求和更高的问责制。这种情况的结果可能会为其他国家如何监管AI驱动的内容生成和平台责任树立先例。