政府官员要求埃隆·马斯克旗下的社交媒体平台X解决由该平台的人工智能聊天机器人Grok生成的他们称之为“令人震惊”的深度伪造内容泛滥的问题。他们担忧的重点在于这些人工智能生成的视频和图像可能传播虚假信息并造成名誉损害。

政府于周三发布的要求呼吁X采取更严格的保障措施，以防止使用Grok创建和传播深度伪造内容。官员们特别提到了Grok被用于创建逼真但捏造的公众人物发表虚假声明的视频的案例。他们认为，这些深度伪造内容对公共讨论的完整性构成了重大威胁，并可能被用于操纵选举或煽动暴力。

美国联邦贸易委员会（FTC）的一位发言人在一份声明中表示：“这项技术已经发展到普通人越来越难以区分真实内容和虚假内容的程度。X有责任确保其人工智能工具不被用于欺骗和误导公众。”

Grok由马斯克的人工智能公司xAI于2023年11月推出，是一个大型语言模型（LLM），旨在以幽默和叛逆的风格回答问题，并利用来自X的实时数据。目前，X Premium+订阅者可以使用它。该人工智能建立在专有架构之上，并接受了大量文本和代码数据集的训练，使其能够生成文本、翻译语言、撰写不同类型的创意内容，并以信息丰富的方式回答问题。然而，它访问和处理来自X的实时信息的能力，加上其生成能力，引发了人们对其潜在滥用的担忧。

这个问题突显了监管社交媒体平台上人工智能生成内容的日益严峻的挑战。深度伪造内容使用复杂的机器学习技术创建，可以令人信服地模仿一个人的外貌和声音，从而难以检测其欺诈性质。该行业正在努力平衡人工智能创新的好处与保护其潜在危害的需求。

X的一位代表在一封电子邮件回复中表示：“我们正在积极努力改进我们的深度伪造内容检测和预防机制。我们致力于确保X仍然是我们用户安全可靠的平台。”该公司表示，它正在探索各种技术解决方案，包括为人工智能生成的内容添加水印以及实施更严格的内容审核政策。

专家表示，有效的深度伪造内容检测需要一种多方面的方法，包括可以分析视频和音频以寻找操纵迹象的先进人工智能算法，以及审查标记内容的人工监督。挑战在于跟上快速发展的技术，因为深度伪造技术变得越来越复杂。

政府的要求给X施加了压力，要求其采取具体行动来解决这个问题。如果未能做到这一点，可能会导致监管审查和潜在的法律诉讼。美国联邦贸易委员会（FTC）有权调查和起诉从事欺骗或不正当行为的公司，包括传播虚假信息。情况仍在发展中，随着X回应政府的担忧并实施新的保障措施，预计将会有进一步的进展。