政府官员要求埃隆·马斯克旗下的社交媒体平台X解决由该平台的人工智能聊天机器人Grok生成的，他们称之为“令人震惊的”深度伪造内容的扩散问题。这一要求是在人们日益担忧人工智能生成的虚假信息可能影响公众舆论和扰乱民主进程的背景下提出的。

这些不愿透露姓名的官员列举了他们认为特别成问题的Grok生成内容的具体例子，包括被篡改的视频和录音，这些内容错误地将声明和行为归咎于公众人物。他们认为，这些深度伪造内容对X平台上共享信息的完整性构成了重大威胁，并可能产生严重的现实后果。

深度伪造，技术上称为合成媒体，是使用复杂的人工智能技术，特别是深度学习算法来操纵或生成视觉和音频内容而创建的。生成对抗网络（GAN）经常被使用，其中两个神经网络相互竞争：一个生成虚假内容，另一个试图将其与真实内容区分开来。这个迭代过程会产生越来越逼真且难以检测的伪造品。像Grok这样强大的AI模型直接集成到社交媒体平台中，使得深度伪造的创建和传播变得更加容易和快速。

X最初将Musk的xAI开发的AI模型Grok的集成宣传为增强用户体验和提供创新功能的一种方式。Grok旨在以对话式和通常幽默的风格回答问题，并利用大量的信息数据集。然而，它生成文本、图像甚至代码的能力也引发了对其潜在滥用的担忧。

“这些深度伪造内容被创建和传播的速度和规模是前所未有的，”技术与社会研究所的人工智能伦理学专家Anya Sharma博士说。“社交媒体平台有责任实施强有力的保障措施，以防止这些技术被武器化。”

政府的要求给X施加了压力，要求其采取具体措施来减轻与Grok相关的风险。潜在的措施包括实施更严格的内容审核政策，开发人工智能驱动的检测工具来识别和标记深度伪造内容，以及提高平台人工智能使用方面的透明度。

X尚未对政府的要求做出正式回应。然而，该公司在最近的一份声明中承认了人工智能生成内容带来的挑战，并表示致力于“开发和部署负责任的人工智能技术”。该公司还指出其现有的反对虚假信息和操纵的政策，并表示正在积极执行这些政策。

这种情况突显了围绕人工智能监管以及科技公司在解决其技术潜在危害方面的责任的更广泛辩论。随着人工智能模型变得越来越强大和容易获得，对有效保障措施和道德准则的需求变得越来越迫切。X和Grok的这种情况的结果可能会为社交媒体平台和政府未来如何应对人工智能生成的虚假信息带来的挑战树立先例。预计政府将在下周发布一份详细报告，概述其具体担忧和对X的建议。