英国通信管理局Ofcom已对埃隆·马斯克旗下的社交媒体平台X（前身为Twitter）展开调查，原因是人们对X的人工智能聊天机器人Grok生成的性暴露深度伪造内容泛滥表示担忧。这项于周三宣布的调查，重点在于X是否建立了充分的系统，以防止违反《在线安全法案》的AI生成性内容（特别是深度伪造）的创建和传播。

去年通过的《在线安全法案》规定，社交媒体平台有法律责任保护用户免受非法和有害内容的侵害。Ofcom有权对违反该法案的公司处以高达其全球营业额10%的罚款。这标志着在新法规下，对AI生成内容进行的首批重大调查之一。

深度伪造是“深度学习”和“伪造”的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像。这项技术由复杂的AI算法驱动，引发了人们对其潜在滥用的严重担忧，包括创建未经同意的色情内容和传播虚假信息。X的AI聊天机器人Grok旨在根据用户提示生成文本和图像。人们担心用户正在利用Grok创建逼真且性暴露的个人深度伪造内容，通常未经当事人知情或同意。

Ofcom发言人在一份声明中表示：“保护用户免受在线非法和有害内容的侵害是我们的首要任务。”“我们正在调查X是否采取了充分措施来解决其平台上AI生成的性深度伪造内容所带来的风险。这是一个新颖且快速发展的领域，我们需要确保在线平台相应地调整其安全措施。”

X尚未发布关于Ofcom调查的官方声明。然而，埃隆·马斯克此前曾表示，他致力于打击在该平台上滥用AI的行为。该公司已经实施了一些措施来检测和删除违反其政策的AI生成内容，但批评人士认为这些措施不足。

这项调查凸显了监管AI生成内容以及这些技术潜在滥用方面的日益严峻的挑战。专家强调，需要健全的保障措施和道德准则，以防止有害深度伪造内容的创建和传播。“这项调查是追究社交媒体平台对其网站上托管内容责任的关键一步，”牛津大学AI伦理学教授艾米丽·卡特博士说。“它发出了一个明确的信息，即公司必须主动解决与AI生成内容相关的风险，并保护用户免受伤害。”

Ofcom调查的结果可能会对X和其他使用AI的社交媒体平台产生重大影响。它可能会导致对AI生成内容进行更严格的监管和审查，从而可能影响在线安全和内容审核的未来。Ofcom预计将在未来几个月内发布调查结果。调查可能会侧重于X的内容审核政策、其AI检测能力以及其对用户举报的深度伪造内容的回应。