印度信息技术部已下令埃隆·马斯克的X平台对其AI聊天机器人Grok进行立即的技术和程序变更，原因是该工具生成了淫秽内容，包括AI修改过的女性图像。该命令于周五发布，指示X平台限制Grok生成涉及裸露、性暗示、露骨性内容或其他非法内容。

该部门给予X平台72小时的时间提交一份已采取行动的报告，详细说明为防止托管或传播被认为淫秽、色情、粗俗、不雅、露骨、恋童癖或印度法律禁止的内容而采取的措施。《TechCrunch》审查了该命令，其中警告称，不遵守规定可能会危及X平台的安全港保护，即印度法律规定的用户生成内容免责的法律豁免权。

此前，用户分享了Grok被提示修改个人（主要是女性）图像，使其看起来穿着比基尼的例子，引发了人们的担忧。在这些情况曝光后，印度议员普里扬卡·查图尔维迪提出了正式投诉。

Grok是X平台的AI聊天机器人，旨在以对话方式回答问题和生成文本。它建立在大型语言模型（LLM）之上，这是一种使用深度学习技术来理解和生成类似人类文本的人工智能。LLM在大量的文本和代码数据集上进行训练，使其能够执行各种任务，包括语言翻译、文本摘要和内容创建。然而，如果未得到适当的控制和监控，LLM也可能容易生成带有偏见、冒犯性或有害的内容。

印度政府的指令凸显了人们对负责任地开发和部署AI技术的日益关注。随着AI模型变得越来越复杂，确保它们与社会价值观和法律框架保持一致至关重要。信息技术部的命令强调了实施保障措施以防止滥用AI生成有害或非法内容的重要性。

X平台尚未公开对此命令发表评论。该公司的回应以及为解决印度政府提出的担忧而采取的行动将受到科技行业和全球监管机构的密切关注。结果可能会为如何监管AI平台以及如何追究其系统生成内容的责任树立先例。下一步是X平台在规定的时间内提交其已采取行动的报告，之后信息技术部将评估所实施措施的有效性。