印度尼西亚已屏蔽对埃隆·马斯克旗下Grok聊天机器人的访问，理由是担心该人工智能可能生成未经同意的、露骨的深度伪造图像。该国通信和数字事务部长于周六宣布了这项临时禁令，称此类深度伪造的创作和传播严重侵犯了人权、尊严以及公民在数字领域的安全。

这项决定使印度尼西亚成为第一个因深度伪造问题而公开限制访问Grok的国家。部长Meutya H强调，政府致力于保护妇女、儿童和广大公众免受人工智能生成的色情内容带来的危害。Grok实现这些图像创建的具体机制涉及允许用户修改现有的在线图像，包括移除衣物。

深度伪造（Deepfakes）是“深度学习”（deep learning）和“伪造”（fake）的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像，而使用的技术是人工智能。这项技术虽然在娱乐和教育等领域具有合法的应用，但由于其潜在的滥用，包括创建诽谤性内容、传播虚假信息以及制作未经同意的色情内容，因此引起了重大的伦理和法律问题。

马斯克的人工智能公司xAI开发的Grok聊天机器人，此前曾因与深度伪造相关的批评浪潮而面临对其图像生成能力的审查和限制。包括英国和欧盟成员国在内的其他国家也表达了担忧，并向X（前身为Twitter）施压，要求其解决Grok生成的私密深度伪造图像问题。特别是欧盟，标记了该人工智能产生的“令人震惊的儿童样貌深度伪造”案例。

印度尼西亚政府的行动凸显了全球在监管人工智能技术方面面临的日益严峻的挑战，即在促进创新的同时减轻潜在的危害。该事件强调，开发者需要实施强有力的保障措施，以防止人工智能工具被滥用，政府需要建立明确的法律框架，以解决深度伪造的伦理和社会影响。在印度尼西亚当局评估xAI防止有害内容生成和传播的措施期间，该禁令仍然有效。未来的发展可能涉及印度尼西亚官员与xAI之间就潜在的解决方案和保障措施进行讨论，这些措施可能允许Grok在该国运营，同时遵守当地法律和道德标准。