印尼官员于周六报告称，他们将暂时阻止访问xAI的聊天机器人Grok，理由是担心其生成未经同意的性化深度伪造内容。此举标志着政府对人工智能生成的描绘真实女性和未成年人的图像（包括据报道由Grok在社交网络X上响应用户提示而产生的攻击和虐待事件）的扩散，采取了最为严厉的应对措施之一。X和xAI均由同一所有者拥有。

印尼通信和数字部长穆提亚·哈菲德表示，政府认为“未经同意的性深度伪造行为严重侵犯了人权、尊严和公民在数字空间中的安全”，这是根据一份与《卫报》和其他出版物分享的声明。据报道，该部门还召见了X的官员讨论此事。

深度伪造（deepfakes）是“深度学习”（deep learning）和“伪造”（fake）的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换成其他人的肖像。这项由人工智能驱动的技术可用于创建逼真但虚构的内容，引发了重大的伦理和法律问题，尤其是在用于生成未经同意的色情内容或传播虚假信息时。

在印尼采取行动之前，其他政府机构也采取了类似行动。印度IT部已命令xAI实施措施，防止Grok生成淫秽内容。欧盟委员会还指示该公司保留所有与Grok相关的文件，这可能预示着一项正式调查的开始。在英国，通信监管机构Ofcom也已处理了这个问题。

Grok是由埃隆·马斯克的AI公司xAI开发的人工智能聊天机器人。它旨在回答问题并进行对话，类似于其他大型语言模型，如ChatGPT和谷歌的Gemini。然而，人们对其潜在的滥用表示担忧，尤其是在创建有害或冒犯性内容方面。

印尼阻止Grok凸显了科技公司和监管机构在解决人工智能生成内容的伦理影响方面面临的日益严峻的挑战。该事件强调需要健全的保障措施和内容审核政策，以防止人工智能技术的滥用并保护个人免受伤害。印尼政府的行动可能会为其他正在努力解决类似问题的国家树立先例，从而可能影响人工智能聊天机器人和其他生成式人工智能工具的未来发展和部署。印尼官员与X代表之间讨论的结果还有待观察，但预计将影响Grok在该地区的未来可用性和功能。