由于对埃隆·马斯克旗下xAI公司开发的人工智能聊天机器人Grok生成真实人物性化图像的广泛批评，印度尼西亚和马来西亚已屏蔽了对Grok的访问。印度尼西亚政府于周六启动了临时禁令，马来西亚于周日效仿。这些行动标志着相关国家首次正式禁止该应用程序，原因是它们担心此类图像的扩散。

印度尼西亚通信和数字事务部长穆提亚·哈菲德周六表示，政府认为未经同意创建的性深度伪造严重侵犯了人权、尊严以及公民在数字领域的安全。此次禁令出台的背景是，由Grok生成的性暗示图像大量出现在同样由马斯克拥有的社交媒体平台X上，用户可以在该平台上提示聊天机器人创建真实人物的性暗示场景图像。

Grok背后的技术与其他人工智能聊天机器人一样，依赖于在大量文本和图像数据集上训练的大型语言模型（LLM）。这些模型学习根据它们在数据中识别的模式和关系来生成新内容。然而，如果训练数据包含偏差，或者模型没有得到适当的控制，这个过程可能会无意中导致有害或不适当内容的产生。人工智能生成的深度伪造，特别是那些具有性性质的深度伪造问题，已经在全球范围内引起了重大的伦理和法律问题。专家警告说，这些图像有可能被用于骚扰、敲诈勒索和传播虚假信息。

印度尼西亚和马来西亚的禁令凸显了技术创新与保护个人免受人工智能潜在危害之间日益紧张的关系。虽然人工智能提供了许多好处，但其滥用可能会产生严重的后果，因此需要谨慎的监管和监督。该事件也突显了社交媒体平台在审核人工智能生成的内容和防止其传播方面面临的挑战。xAI的子公司X Corp尚未立即回应有关禁令的置评请求。Grok在这些国家的未来可用性仍然不确定，有待xAI采取进一步行动来解决政府提出的担忧。