英国政府已敦促该国通信监管机构英国通信办公室（Ofcom）考虑动用其全部权力，可能包括禁令，来对社交媒体平台X采取行动，原因是担心该网站上出现非法的人工智能生成的深度伪造内容。 此举源于人们越来越担心X的人工智能模型Grok被用于创建经过数字修改的图像，包括那些去除个人衣物的图像。

根据《在线安全法案》，英国通信办公室有权寻求法院命令，阻止第三方为X的金融运营或其在英国境内的可访问性提供便利。 政府日益加剧的担忧源于Grok可能被用于生成性图像，特别是描绘儿童的图像。

首相凯尔·斯塔默爵士谴责了此类图像的创作，他说：“这太可耻了。 这令人作呕。 这是不能容忍的。 英国通信办公室完全有我们的支持，可以就此事采取行动。” 他进一步强调了政府的立场，补充说：“这是非法的。 我们不会容忍它。 我已要求将所有选项都摆在桌面上。” 政府消息人士向英国广播公司新闻证实，他们希望英国通信办公室利用所有可用权力来解决X上的Grok问题。

深度伪造是一种合成媒体形式，它利用人工智能，特别是深度学习技术，来创建高度逼真但虚构的图像、视频或录音。 该技术引发了重大的伦理和社会问题，包括可能造成的虚假信息、诽谤和非自愿色情内容。 令人信服地改变图像和视频的能力会削弱人们对视觉信息的信任，并给区分现实和虚构带来挑战。

《在线安全法案》赋予英国通信办公室重要的监管权力，以解决在线有害内容。 这些权力包括对未能保护用户免受非法内容侵害的公司处以罚款，以及在极端情况下，阻止访问网站。 政府敦促英国通信办公室考虑禁令，突显了其对社交媒体平台上人工智能潜在滥用的严重担忧。

这种情况突显了围绕人工智能监管及其对社会潜在影响的持续辩论。 随着人工智能技术的不断进步，监管机构和政策制定者面临着在创新与保护个人免受伤害的需求之间取得平衡的挑战。 英国通信办公室的调查结果以及随后对X采取的任何行动，可能会为英国如何监管人工智能生成的内容树立先例，并可能影响其他国家的类似讨论。 预计监管机构现在将评估证据，并根据《在线安全法案》的全部权力范围，确定适当的行动方案。