唐宁街10号已经注意到有报道称，X（前身为Twitter）正在采取措施解决使用其人工智能模型Grok生成的深度伪造问题。 此举正值人们越来越担心人工智能生成的内容可能被滥用，从而传播虚假信息和影响公众舆论之际。

首相办公室的一位发言人表示，政府欢迎社交媒体平台为降低与深度伪造相关的风险所做的任何努力。 “我们已经明确表示，科技公司有必要对其平台上托管的内容负责，尤其是在可能被用来欺骗或误导的人工智能生成材料方面，”这位发言人说。

深度伪造是一种合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像。 这通常是使用复杂的机器学习技术，特别是深度学习算法来实现的，因此得名。 X的人工智能模型Grok是一种大型语言模型（LLM），类似于OpenAI的GPT系列或Google的Gemini。 LLM接受过大量文本数据的训练，使其能够生成类似人类的文本、翻译语言并创建各种类型的创意内容，包括深度伪造应用程序的底层文本。

据报道，X正在实施的具体打击Grok生成的深度伪造的措施尚未完全披露。 然而，行业分析师推测，这些措施可能包括增强的内容检测算法、更严格的用户验证流程以及更清晰的人工智能生成内容标签政策。 内容检测算法分析媒体中是否存在操纵的迹象，例如光照不一致、不自然的的面部动作或在深度伪造创建过程中引入的伪影。

像Grok这样易于访问的人工智能工具的兴起降低了创建深度伪造的门槛，使恶意行为者更容易制作和传播具有说服力但虚假的内容。 这对信息生态系统构成了重大挑战，可能会破坏对合法新闻来源和机构的信任。

英国政府一直在积极考虑人工智能的监管框架，包括解决与深度伪造相关的风险的措施。《在线安全法》最近生效，规定社交媒体平台有责任保护用户免受非法和有害内容的侵害，这可能被解释为包括某些类型的深度伪造。

X尚未发布详细说明其计划的官方声明。 预计该公司将在未来几周内提供更多关于其处理与Grok相关的深度伪造的方法的信息。 随着关于负责任地开发和部署人工智能的辩论持续进行，X措施的有效性将受到政策制定者、监管机构和公众的密切关注。