政府官员要求埃隆·马斯克的社交媒体平台X解决由该平台的人工智能聊天机器人Grok生成的他们称之为“令人震惊”的深度伪造内容泛滥问题。在此要求之前，X上流传着大量逼真但捏造的音频和视频内容，引发了人们对潜在的虚假信息和声誉损害的担忧。

政府的担忧集中在Grok生成高度逼真的深度伪造内容的能力上，这些深度伪造内容是合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像。这项技术虽然在娱乐和教育方面具有潜在的应用价值，但可能被滥用于制造虚假叙事、操纵公众舆论和诽谤个人。“Grok生成这些深度伪造内容的速度和复杂程度令人深感不安，”技术监管部门的一位发言人在一份声明中表示。“我们需要X保证正在采取积极措施来减轻风险。”

X于2023年末向其高级订阅用户推出了Grok，作为一项旨在增强用户参与度和提供创意工具的功能。Grok建立在大型语言模型（LLM）之上，这是一种人工智能，通过对大量文本和代码数据集进行训练，使其能够生成类似人类的文本、翻译语言和创建不同类型的创意内容。虽然X已经实施了安全措施来防止生成有害内容，但批评人士认为，这些措施不足以对抗深度伪造技术不断发展的复杂性。

人工智能生成的深度伪造内容的兴起对科技行业和监管机构都构成了重大挑战。专家警告说，这项技术正变得越来越容易获得，使得恶意行为者更容易创建和传播具有说服力的虚假信息。“挑战不仅在于检测深度伪造内容，还在于将其归因于其来源并追究责任人的责任，”数字伦理研究所的首席人工智能研究员Anya Sharma博士说。

X已回应政府的要求，声明其致力于打击在其平台上滥用人工智能的行为。该公司概述了其目前的措施，包括内容审核政策、人工智能驱动的检测工具和用户报告机制。“我们一直在努力提高我们识别和删除深度伪造内容和其他形式的操纵媒体的能力，”X的信任与安全主管在一份声明中表示。“我们还在探索新技术，例如水印和来源跟踪，以帮助用户区分真实内容和合成内容。”

政府目前正在审查X提出的措施，并考虑采取进一步的监管行动。这可能包括强制执行更严格的内容审核政策，要求明确标记人工智能生成的内容，并对未能充分解决深度伪造内容传播问题的平台处以处罚。本次审查的结果可能对人工智能监管的未来以及社交媒体平台在打击虚假信息方面的责任产生重大影响。