官方要求埃隆·马斯克旗下的社交媒体平台X解决由该平台的人工智能聊天机器人Grok生成的深度伪造内容泛滥的问题。政府援引了“令人震惊”的滥用案例，对虚假信息和潜在危害表示担忧。

数字诚信部（DDI）于周三发布了这一要求，此前，用户报告大量涌现，详细描述了在X上流传的高度逼真、人工智能生成的视频和图像。据DDI称，这些深度伪造内容通常以公众人物为主角，并被用于传播虚假叙述或恶意内容。

“我们对Grok被武器化的可能性深感担忧，”DDI主任安雅·夏尔马在一份新闻声明中表示。“这项技术本身并没有内在的危害，但X上缺乏足够的保障措施，使其被用于不正当的目的。我们需要立即采取行动来减轻这种威胁。”

Grok是由马斯克的xAI开发的AI聊天机器人，已集成到X Premium+订阅层中。它旨在回答问题、生成创意内容并提供实时信息。然而，它生成逼真图像和视频的能力引发了人们对其可能被滥用的担忧。

技术专家解释说，深度伪造利用复杂的机器学习算法，特别是深度神经网络，来操纵或合成视觉和音频内容。这些算法在大量的图像和视频数据集上进行训练，使其能够创建令人信服的伪造品。这些技术相对较低的成本和日益增长的可访问性促成了深度伪造的兴起。

DDI的要求侧重于几个关键领域，包括加强内容审核政策、改进用于识别深度伪造的检测算法以及更严格的用户验证协议。政府还呼吁提高该平台上人工智能生成内容使用的透明度。

X回应了DDI的要求，发表声明承认了这些担忧。“我们致力于解决我们平台上深度伪造的问题，”声明中写道。“我们正在积极开发和部署新技术，以检测和删除恶意的人工智能生成内容。我们还在探索加强用户验证和促进负责任的人工智能使用的方法。”

行业分析师认为，这一事件凸显了监管人工智能生成内容日益增长的挑战。“人工智能技术的发展速度超过了我们开发有效监管框架的能力，”斯坦福大学人工智能伦理学教授本·卡特博士说。“我们需要一种多方面的方法，包括政府、行业和学术界之间的合作，以应对这些挑战。”

DDI已给X两周的时间提交一份详细计划，概述其解决深度伪造问题的拟议措施。据DDI称，未能遵守可能会导致罚款或其他监管行动。情况仍然不稳定，随着X回应政府的要求，预计未来几天将会有进一步的发展。