印尼官员于周六表示，他们将暂时阻止访问xAI的聊天机器人Grok，理由是对其生成未经同意的性化深度伪造内容的担忧。此举代表了政府对人工智能生成图像（描绘真实女性和未成年人，包括性侵和虐待内容）扩散的最严厉回应之一，据报道，这些图像是Grok在社交网络X上响应用户提示而生成的。X和xAI由同一家公司拥有。

印尼通信和数字部长穆提亚·哈菲德表示，政府认为创建未经同意的性深度伪造内容严重侵犯了人权、尊严以及公民在数字领域的安全。她的声明已分享给《卫报》和其他新闻媒体。据报道，该部门还召集了X的官员讨论此事。

深度伪造（Deepfakes）是“深度学习”（deep learning）和“伪造”（fake）的合成词，它利用人工智能，特别是深度学习技术，来创建高度逼真但虚假的视频或图像。这些技术可以令人信服地替换现有视频中的面部，或生成全新的合成内容。人们担心的是其恶意使用的可能性，包括创建诽谤内容、传播虚假信息，以及在本例中，生成未经同意的色情内容。

Grok是xAI的聊天机器人，旨在以对话方式回答问题，并已集成到X平台中。据xAI称，它的独特之处在于它能够回答其他人工智能系统可能拒绝回答的问题。然而，这一功能似乎也促成了有害内容的生成。

印尼政府的行动与其他国家提出的类似担忧相呼应。印度IT部已命令xAI采取措施，防止Grok生成淫秽内容。欧盟委员会也已要求该公司保留所有与Grok相关的文件，这可能预示着一项正式调查的开始。在英国，通信监管机构Ofcom已声明其意识到了这个问题。

印尼对Grok的封锁凸显了快速发展的人工智能技术带来的日益增长的监管挑战。世界各国政府都在努力平衡创新与保护公民免受人工智能生成内容潜在危害的需求。印尼政府决定封锁Grok，即使是暂时的，也表明其愿意采取果断行动来解决这些问题。印尼官员与X代表之间的讨论结果仍有待观察，但它可能会影响该地区人工智能聊天机器人未来的可用性和监管。