政府正面临指责，被指拖延旨在打击深度伪造技术的立法实施，尤其是在 Grok AI 及其潜在滥用出现之后。批评人士认为，监管行动的迟缓使社会更容易受到日益复杂的人工智能技术的恶意应用的影响。

人们的担忧主要集中在 xAI 开发的 Grok 等 AI 模型生成高度逼真且具有欺骗性的音频和视频内容的能力上。深度伪造技术，利用生成对抗网络 (GAN) 和扩散模型等技术创建，可以令人信服地模仿真实个体，使得区分真实材料和伪造材料变得困难。这种能力为政治操纵、欺诈和声誉损害带来了重大风险。

加州大学伯克利分校人工智能伦理学教授 Anya Sharma 博士表示：“技术正以指数级的速度发展，但我们的法律框架却远远落后。我们需要积极主动的立法，以应对深度伪造技术带来的具体挑战，包括关于责任、内容标签和用户教育的明确指导方针。”

生成对抗网络 (GAN) 涉及两个神经网络：一个生成器，用于创建合成数据；一个判别器，用于区分真实数据和虚假数据。通过这种对抗过程，生成器学习产生越来越逼真的输出。扩散模型是另一种用于深度伪造创建的技术，其工作原理是逐渐向图像或视频添加噪声，然后学习逆转该过程，从噪声中生成新内容。

立法的延迟归因于几个因素，包括技术的复杂性、国际合作的必要性以及对侵犯言论自由的担忧。一些政策制定者认为，过于宽泛的法规可能会扼杀创新并阻碍人工智能的有益应用。

司法部发言人表示：“我们正在认真考虑深度伪造技术的影响，并努力制定一种平衡的监管方法。我们的目标是保护公众免受伤害，同时促进人工智能领域的负责任的创新。”

然而，倡导团体认为，目前缺乏法律明确性已经对公共讨论产生了寒蝉效应。对成为深度伪造攻击目标的恐惧会阻止个人在线表达自己的观点，尤其是在敏感话题上。

一些国家已经实施或正在考虑立法来解决深度伪造问题。欧盟的《数字服务法案》包括识别和删除非法内容的条款，包括深度伪造内容。在美国，一些州已经通过了专门针对恶意深度伪造的创建和传播的法律。

关于深度伪造监管的辩论凸显了管理快速发展的人工智能技术的更广泛挑战。专家强调需要一种多方面的方法，包括水印和内容认证等技术解决方案，以及法律和伦理框架。

政府已宣布正在就深度伪造监管进行一系列公众咨询，并计划在未来几个月内推出立法草案。这些措施的有效性将取决于它们在保护社会免受伤害和促进人工智能领域创新之间取得平衡的能力。Grok AI 等模型的开发和部署只会加剧这项任务的紧迫性。