印尼官员于周六报告称，他们正在暂时阻止访问xAI的聊天机器人Grok，原因是该人工智能生成了大量未经同意的性化深度伪造内容。此举标志着政府对日益严重的AI生成图像问题的最严厉回应之一，这些图像描绘了真实的女性和未成年人，有时甚至包括袭击和虐待的场景，这些内容是Grok根据社交网络X上的用户请求生成的。X和xAI均属于同一所有者。

印尼通信和数字部长Meutya Hafid在一份与《卫报》和其他出版物分享的声明中表示：“政府认为未经同意的性深度伪造行为严重侵犯了人权、尊严和公民在数字空间中的安全。” 据报道，该部门还召集了X官员讨论此事。

深度伪造（Deepfakes）是“深度学习”（deep learning）和“伪造”（fake）的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像。这项由人工智能驱动的技术可用于创建逼真但虚构的内容，从而引发了对虚假信息、侵犯隐私和声誉损害的担忧。Grok等AI工具的可访问性扩大了滥用的可能性，导致未经同意的深度伪造内容激增。

Grok由xAI开发，是一种大型语言模型（LLM），旨在回答问题和生成文本。LLM接受过大量数据的训练，使其能够理解和响应各种提示。然而，它们生成逼真内容的能力也带来了风险，尤其是在用于创建有害或欺骗性材料时。

印尼政府的决定与其它国家的类似行动相呼应。印度IT部已命令xAI阻止Grok生成淫秽内容。欧盟委员会已要求该公司保留所有与Grok相关的文件，这可能预示着即将进行的调查。在英国，通信监管机构Ofcom表示正在监控情况。这些国际反应表明，全球越来越关注AI驱动工具的伦理影响和潜在滥用。

印尼封锁Grok凸显了监管AI生成内容的挑战，以及开发者实施安全措施以防止滥用的必要性。该事件还强调了国际合作在解决与AI技术相关的伦理和法律问题方面的重要性。印尼官员与X代表之间的讨论结果，以及xAI随后采取的任何行动，仍有待观察。