政府官员要求埃隆·马斯克的社交媒体平台X解决他们所描述的由该平台的人工智能聊天机器人Grok生成的“令人震惊的”深度伪造内容泛滥问题。在此要求之前，X上流传着大量逼真但捏造的音频和视频内容，引发了对潜在的虚假信息和声誉损害的担忧。

政府的担忧主要集中在Grok以最少的用户输入生成高度逼真的深度伪造内容的能力上。深度伪造，是“深度学习伪造”的简称，利用复杂的AI算法来操纵或生成视觉和音频内容，通常使得区分真实材料和捏造材料变得困难。该技术依赖于在大量图像和音频数据集上训练的神经网络，以学习和复制人类特征。

“我们对Grok可能被武器化用于恶意目的深感不安，”技术监管部门的一位发言人在一份声明中表示。“在X上创建和传播令人信服的深度伪造内容的便利性对公众信任和安全构成了重大威胁。”

X的代表承认了政府的担忧，并表示他们正在积极努力减轻与Grok相关的风险。“我们致力于确保在我们的平台上负责任地使用人工智能，”X的信任与安全团队在一份声明中表示。“我们正在实施增强的检测机制和内容审核政策，以识别和删除违反我们服务条款的深度伪造内容。”

Grok于去年年底推出，是一个集成到X的高级订阅服务中的AI聊天机器人。它旨在回答问题、生成创意内容并与用户进行对话。虽然X将Grok宣传为一种用于娱乐和信息的工具，但批评人士认为，它的功能很容易被利用来创建和传播虚假信息。

行业分析师认为，政府的干预凸显了围绕AI生成内容日益增长的监管挑战。“这是一个分水岭时刻，”加州大学伯克利分校的AI伦理学教授Anya Sharma博士说。“它强调了迫切需要明确的法律框架和道德准则来管理AI技术的开发和部署，尤其是在社交媒体平台的背景下。”

政府官员的这一要求出台之际，多个国家正在努力研究如何监管深度伪造和其他形式的AI生成的虚假信息。例如，欧盟正在考虑根据其拟议的《人工智能法案》对人工智能技术实施更严格的监管。

X面临着平衡其对言论自由的承诺与保护用户免受有害内容侵害的需求的挑战。该公司目前的内容审核政策禁止创建和传播旨在欺骗或误导的深度伪造内容，但由于AI技术的快速发展，执法已被证明是困难的。

X表示，它正在探索几种技术解决方案来解决深度伪造问题，包括为AI生成的内容添加水印、开发更复杂的检测算法，以及对创建或共享可能具有误导性内容的用户实施更严格的验证流程。该公司没有提供实施这些措施的具体时间表。技术监管部门表示，将继续监测X的进展，并在必要时考虑采取进一步行动。