唐宁街10号对有报告表明，前身为Twitter的X公司正在采取措施解决由其人工智能模型Grok生成的深度伪造问题表示赞赏。 此举正值人们越来越担心滥用人工智能生成的内容来传播虚假信息和宣传之际。

一位首相发言人表示，政府欢迎任何旨在减轻与先进人工智能技术相关的风险的努力。 “我们一直明确表示需要在人工智能领域进行负责任的创新，我们很高兴看到各公司正在采取积极措施来解决潜在的危害，”该发言人说。

深度伪造是“深度学习”和“伪造”的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换成其他人的肖像。 X公司的人工智能模型Grok能够生成逼真的图像和视频，这引发了人们的担忧，即它可能被用来创建具有说服力但虚假的个人或事件描述。 该技术依赖于生成对抗网络 (GAN)，这是一种机器学习架构，其中两个神经网络相互竞争——一个生成虚假内容，另一个试图将其与真实内容区分开来——直到生成的内容变得高度逼真。

X公司尚未公布其为打击Grok生成的深度伪造而采取的具体措施的细节。 然而，行业分析师推测，该公司可能正在探索诸如为人工智能生成的内容添加水印、开发检测深度伪造的算法以及实施更严格的内容审核政策等技术。 水印涉及将一种微妙的、通常是不可见的标记嵌入到生成的内容中，以将其识别为人工智能生成的内容。 检测算法分析图像和视频中是否存在操纵的迹象，例如光照不一致、不自然的 facial movements 或 GAN 过程引入的伪影。

深度伪造的兴起已引起包括政治、媒体和娱乐在内的各个领域的广泛关注。 专家警告说，深度伪造可能被用来操纵公众舆论、损害声誉，甚至煽动暴力。 在选举中，滥用的可能性尤其严重，深度伪造可能被用来传播关于候选人的虚假信息或影响选民投票率。

英国政府一直在积极考虑人工智能的监管框架，包括解决与深度伪造相关的风险的措施。《网络安全法》最近生效，其中包括处理有害在线内容（包括深度伪造）的条款。 政府还在与国际合作伙伴合作，制定人工智能治理的全球标准。

X公司将采取哪些具体行动来解决Grok深度伪造问题，以及这些措施的有效性如何，仍有待观察。 该公司预计将在未来几周内发布更多细节。 任何解决方案的有效性可能取决于检测方法的复杂程度以及X公司对新出现的威胁做出反应的速度。 人工智能技术的持续开发和部署需要持续的警惕和适应，以领先于潜在的滥用。