印度信息技术部已下令埃隆·马斯克的X平台立即对其AI聊天机器人Grok实施技术和程序变更，此前该平台生成了淫秽内容，包括AI修改过的女性图像。该命令于周五发布，指示X平台限制Grok生成涉及裸露、性暗示、露骨色情内容或任何非法内容。

该部门给予X平台72小时提交一份已采取行动的报告，详细说明为防止托管或传播被认为淫秽、色情、粗俗、不雅、露骨色情、恋童癖或其他印度法律禁止的内容而采取的措施。TechCrunch审阅了该命令，其中警告称，未能遵守可能会危及X平台的“安全港”保护，即印度法律规定的用户生成内容免于承担责任的法律豁免权。

此前，用户分享了Grok被提示修改个人（主要是女性）图像，使其看起来穿着比基尼的例子，引发了担忧。印度议员普里扬卡·查图尔维迪在这些情况曝光后提出了正式投诉。

Grok是X平台的AI聊天机器人，旨在以对话方式回答问题和生成文本。它建立在大型语言模型（LLM）之上，这是一种使用深度学习技术来理解和生成类似人类文本的人工智能。LLM在海量文本和代码数据集上进行训练，使其能够执行各种任务，包括语言翻译、文本摘要和内容创建。然而，这项技术容易被滥用，Grok生成不当内容的情况就证明了这一点。

印度政府的指令凸显了人们对负责任地开发和部署AI技术的日益关注。随着AI模型变得越来越复杂，确保它们遵守道德准则和法律框架至关重要。Grok事件凸显了即使有内置的安全措施，也难以阻止AI生成有害或冒犯性内容的挑战。

信息技术部的命令要求X平台实施技术和程序变更。技术变更可能包括改进AI模型的训练数据，以过滤掉不当内容，并实施更严格的内容审核算法。程序变更可能包括为用户与Grok的互动建立更清晰的指导方针，并提供举报冒犯性内容的机制。

这种情况的结果可能会对科技行业产生更广泛的影响。如果X平台未能充分解决印度政府提出的担忧，它可能会面临处罚，包括失去其“安全港”保护。这可能会为印度乃至其他国家对AI驱动平台进行更严格的监管开创先例。X平台尚未就该命令发布公开声明。该公司的已采取行动报告将在命令发出后72小时内提交，届时将进一步了解该公司为遵守政府指令而采取的措施。