唐宁街10号对有报道称，X（前称Twitter）正采取措施解决使用其Grok AI模型生成的深度伪造问题表示赞赏。首相办公室承认了人工智能生成内容可能被滥用的情况，并强调平台有责任减轻相关风险。

深度伪造是“深度学习”和“伪造”的合成词，指的是将现有图像或视频中的人物替换为其他人的合成媒体。这项技术利用复杂的人工智能，特别是深度学习算法，来创建高度逼真但却是捏造的内容。令人担忧的是，这些深度伪造技术可能被用于传播虚假信息、操纵公众舆论和损害声誉。

Grok是X公司的人工智能模型，是一种大型语言模型（LLM），类似于OpenAI的GPT模型和谷歌的Gemini。LLM通过对海量文本和代码数据集进行训练，使其能够生成高质量的文本、翻译语言、创作不同类型的创意内容，并以信息丰富的方式回答您的问题。然而，使LLM有用的这些能力也可能被利用来创建恶意内容，包括深度伪造。

虽然X公司为打击Grok生成的深度伪造而采取的具体措施的细节仍然有限，但行业分析师推测，该平台可能正在实施诸如为人工智能生成的内容添加水印、开发检测深度伪造的算法以及制定明确的政策来反对创建和传播具有欺骗性的合成媒体等技术。水印涉及将一种微妙的、通常是不可见的标记嵌入到生成的内容中，以将其识别为人工智能生成的内容。检测算法分析媒体是否存在被操纵的迹象，例如面部特征不一致或不自然的动作。

深度伪造的泛滥对信息生态系统构成了重大挑战。专家警告说，这些技术日益复杂，使得区分真实内容和虚假内容变得更加困难，这可能会削弱人们对媒体和机构的信任。英国政府一直在积极探索人工智能的监管框架，重点是确保该技术的负责任的开发和部署。

X公司采取行动解决深度伪造问题，符合科技行业更广泛的趋势，即各公司都在努力应对人工智能的伦理和社会影响。包括Meta和谷歌在内的其他主要平台也宣布了旨在打击深度伪造和其他形式的人工智能生成的虚假信息的举措。

唐宁街一位发言人发表声明称，政府将密切关注X公司在解决Grok深度伪造问题方面的进展，并期望该平台采取积极措施，保护用户免受这项技术可能造成的危害。预计未来几周将发布关于X公司相关工作的进一步更新。