政府已敦促英国通信监管机构Ofcom考虑充分利用其所有权力，甚至可能包括禁令，来对社交媒体平台X采取行动，原因是人们越来越担心该平台传播非法人工智能生成的图像。 此举源于人们对X的人工智能模型Grok被用于创建深度伪造图像（特别是那些以数字方式脱掉图像中人物衣服的图像）的日益担忧。

根据《在线安全法案》，Ofcom有权寻求法院命令，阻止第三方协助埃隆·马斯克拥有的X筹集资金或在英国境内访问该平台。 政府日益加剧的担忧源于使用Grok创建儿童性化图像的潜在可能性。

首相基尔·斯塔默爵士谴责了此类图像的创作，并表示：“这太可耻了。 这令人作呕。 这是不能容忍的。 Ofcom完全有我们的支持，可以就此事采取行动。” 他在接受Greatest Hits Radio采访时进一步强调了政府的立场，并补充说：“这是非法的。 我们不会容忍它。 我已要求将所有选项都摆在桌面上。” 政府消息人士向BBC新闻证实，他们“希望Ofcom动用其所有权力来处理Grok X”。

深度伪造是“深度学习”和“伪造”的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被人工智能替换为其他人的肖像。 尽管深度伪造有多种应用，包括娱乐和艺术表达，但其潜在的滥用，例如创建未经同意的私密图像或传播虚假信息，引发了重大的伦理和法律问题。 像Grok这样的人工智能模型的复杂性使得区分真实内容和被操纵的内容变得越来越困难，从而进一步使问题复杂化。

《在线安全法案》赋予Ofcom监管在线内容和保护用户免受伤害的重大权力。 这些权力包括处以罚款、要求删除非法内容，以及在极端情况下阻止访问网站的能力。 政府敦促Ofcom考虑禁止X，突显了政府对与人工智能生成的深度伪造相关的潜在危害的高度重视。

情况仍然不稳定，目前尚不清楚Ofcom将采取哪些具体行动。 预计监管机构将在做出决定之前仔细考虑证据和法律框架。 此案的结果可能对人工智能生成内容的监管以及社交媒体平台在解决人工智能技术滥用方面的责任产生重大影响。