政府官员要求埃隆·马斯克的社交媒体平台X解决由该平台的人工智能聊天机器人Grok生成的，他们称之为“令人震惊的”深度伪造内容的扩散问题。他们担忧的重点是这些人工智能生成的图像和视频可能传播虚假信息并造成声誉损害，尤其是在即将到来的选举之前。

由一个两党参议员小组昨天晚些时候发出的这项要求，呼吁X实施更严格的保障措施，以防止使用Grok创建和传播深度伪造内容。具体来说，参议员们敦促X加强其内容审核政策，提高其深度伪造检测能力，并为用户提供更清晰的机制来报告疑似人工智能生成的虚假信息。

“人工智能技术的快速发展既带来了机遇也带来了挑战，”加利福尼亚州民主党参议员莎拉·陈在一份新闻稿中表示。“虽然Grok有可能成为一个有价值的工具，但滥用它来创建令人信服但却是捏造的内容令人深感不安。X有责任防止其平台被以这种方式武器化。”

深度伪造，技术上称为合成媒体，是使用复杂的人工智能算法创建的，通常基于深度学习技术，如生成对抗网络（GAN）。GAN涉及两个神经网络，一个生成器和一个判别器，它们协同工作。生成器创建合成内容，而判别器试图区分真实内容和虚假内容。通过这个迭代过程，生成器变得越来越擅长生成逼真的伪造品。令人担忧的是，这些伪造品可能被用来冒充个人、传播虚假叙事和操纵公众舆论。

X于2023年末向其高级订阅用户推出了Grok，作为直接集成到平台中的一项功能。Grok旨在以对话方式回答问题并提供实时信息。虽然X制定了禁止创建和传播有害内容的政策，但批评人士认为，这些政策不足以应对人工智能生成的深度伪造内容带来的独特挑战。该平台目前依靠自动化检测系统和用户报告相结合的方式来识别和删除违规内容。

行业分析师认为，X对用户报告的依赖是一个重大弱点，因为深度伪造内容可以在被标记和删除之前迅速传播。此外，目前的深度伪造检测技术并非万无一失，复杂的伪造品往往可以逃避检测。“挑战在于保持领先地位，”斯坦福大学的人工智能研究员大卫·李博士解释说。“随着人工智能模型变得更加强大，创建令人信服的深度伪造内容的能力也随之增强。平台需要投资于尖端的检测技术和强大的内容审核策略。”

X尚未对政府的要求做出正式回应。然而，在最近的一次采访中，首席执行官琳达·亚卡里诺表示，该公司致力于打击虚假信息，并正在积极探索解决人工智能带来的挑战的新方法。“我们非常重视这个问题，”亚卡里诺说。“我们正在努力开发和部署先进技术，以检测和删除我们平台上的深度伪造内容。”

政府的干预凸显了围绕人工智能及其对社会的潜在影响日益增长的监管审查。一些国家目前正在考虑立法来规范人工智能技术的开发和部署，特别关注解决与深度伪造和其他形式的人工智能生成的虚假信息相关的风险。例如，欧盟正在最终确定其《人工智能法案》，其中包括规范人工智能在高风险应用（如面部识别和内容审核）中的使用的条款。

下一步可能涉及政府官员和X代表之间的进一步讨论，以制定一项具体的计划来解决提出的担忧。这些讨论的结果可能对人工智能监管的未来以及社交媒体平台在打击虚假信息方面的责任产生重大影响。