英国通信管理局Ofcom已对埃隆·马斯克的社交媒体平台X（前身为Twitter）展开调查，原因是担心X的人工智能聊天机器人Grok生成大量性暴露深度伪造内容。这项于周三宣布的调查，重点在于X是否建立了充分的系统，以防止违反《在线安全法案》的AI生成性内容（特别是深度伪造）的创建和传播。

《在线安全法案》于今年早些时候生效，规定社交媒体平台有法律责任保护用户免受非法和有害内容的侵害。Ofcom有权对违反该法案的公司处以高达其全球营业额10%的罚款。这标志着在新法规下，首批主要调查之一，专门关注AI生成的内容。

深度伪造是“深度学习”和“伪造”的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像。这项技术利用复杂的人工智能算法，特别是深度神经网络，来令人信服地交换面孔或操纵音频和视频内容。虽然深度伪造具有合法的用途，例如在电影制作和艺术表达中，但它们也带来了重大风险，包括创建非自愿色情内容、传播虚假信息以及造成声誉损害的可能性。

Ofcom发言人表示：“保护用户免受在线非法和有害内容的侵害是我们的首要任务。” “我们正在调查X，以评估他们是否履行了《在线安全法案》规定的义务，以防止AI生成的性深度伪造的传播。这是一个新颖且快速发展的领域，我们需要确保平台采取适当措施来保护其用户。”

X尚未发布有关此项调查的官方声明。然而，埃隆·马斯克此前曾表示，他致力于打击在该平台上滥用人工智能的行为。X的人工智能聊天机器人Grok于去年年底推出，旨在以对话式且有时幽默的方式回答问题。然而，人们对其可能被恶意利用的潜力表示担忧，包括生成有害内容。

人工智能伦理和在线安全领域的专家对Ofcom的调查表示欢迎。牛津互联网研究所专门研究人工智能治理的研究员艾米丽·卡特博士说：“这是追究社交媒体平台对其网站上生成和共享的内容负责的关键一步。” “人工智能技术的快速发展需要积极的监管，以减轻滥用的风险，尤其是在深度伪造和非自愿图像的背景下。”

调查可能涉及对X的内容审核政策、其人工智能检测能力以及其对有害内容报告的响应程序的全面评估。Ofcom还将审查X为防止Grok创建和传播深度伪造而采取的措施。调查结果可能对人工智能监管的未来以及社交媒体平台在合成媒体时代的责任产生重大影响。Ofcom预计将在未来几个月内提供有关其调查结果的最新信息。