政府已敦促英国通信管理局Ofcom考虑对其社交媒体平台X采取包括禁令在内的所有权力，原因是担心非法人工智能生成图像的创建和传播。此前，人们对X的人工智能模型Grok的使用提出了越来越多的批评，该模型已被用于对图像进行数字修改，包括去除个人衣物。

根据《在线安全法案》，Ofcom有权寻求法院命令，阻止第三方为X提供财政支持或允许在英国境内访问该平台。政府日益增长的担忧源于Grok生成性图像（尤其是描绘儿童的性图像）的潜力。

首相基尔·斯塔默爵士谴责了此类图像的创作，他说：“这太可耻了。这令人作呕。这是不能容忍的。Ofcom完全有我们的支持，可以就此事采取行动。” 他在接受Greatest Hits Radio采访时进一步强调了政府的立场，补充说：“这是非法的。我们不会容忍它。我已经要求将所有选项都摆在桌面上。”

政府消息人士向BBC新闻证实，他们希望Ofcom利用所有可用权力来回应围绕Grok和X的问题。

核心问题围绕着生成式人工智能的滥用，这是一种能够创建新内容（包括图像、文本和音频）的人工智能。虽然生成式人工智能在创新和创造力方面具有巨大的潜力，但其滥用引发了严重的伦理和法律问题。深度伪造（AI生成的媒体，令人信服地描绘某人做或说他们没有做或说的事情）代表了一种特别令人担忧的应用。创建逼真但捏造的图像的能力可用于恶意目的，包括传播虚假信息、损害声誉和创建未经同意的亲密图像。

《在线安全法案》赋予Ofcom监管在线服务和处理有害内容的权力。这包括处以罚款、要求删除非法内容，以及在极端情况下，阻止访问未能遵守法律的平台。政府呼吁Ofcom考虑禁令，突显了其对人工智能生成内容可能造成危害的担忧程度。

这种情况突显了监管快速发展的人工智能技术所面临的挑战。随着人工智能模型变得越来越复杂，检测和防止有害内容的创建变得越来越困难。这就需要一种多方面的方法，包括人工智能驱动的检测工具等技术解决方案，以及监管框架和公众意识宣传活动。

围绕X和Grok的争论反映了关于社交媒体平台在人工智能时代责任的更广泛讨论。批评人士认为，平台有责任防止其技术的滥用，并保护用户免受伤害。然而，自由言论的支持者警告不要采取可能扼杀创新和限制言论自由的过度限制性法规。

Ofcom目前正在评估情况并考虑其选择。监管机构的决定可能会对英国人工智能监管的未来产生重大影响，并可能为其他正在努力应对类似挑战的国家树立先例。下一步包括Ofcom收集证据、咨询专家并与X合作，以解决政府的担忧。这一过程的结果仍然不确定，但很明显，人工智能生成内容及其潜在危害的问题将继续成为监管机构和政策制定者的主要关注点。