英国通信管理局 (Ofcom) 已对埃隆·马斯克的社交媒体平台 X（前身为 Twitter）展开调查，原因是人们对 X 的人工智能聊天机器人 Grok 生成的性暴露深度伪造内容泛滥表示担忧。这项于周三宣布的调查，重点在于 X 是否充分保护了其用户，特别是儿童，免受该人工智能工具生成的有害内容侵害。

此次调查将审查 X 对《在线安全法案》的遵守情况，该法案规定平台有法律上的注意义务，以保护用户免受非法和有害内容的侵害。英国通信管理局将特别评估 X 在识别和删除人工智能生成的性暴露深度伪造内容方面的系统和流程的有效性，以及其防止用户接触此类材料的措施。

深度伪造是“深度学习” (deep learning) 和 “伪造” (fake) 的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换成其他人的肖像。这项技术由复杂的人工智能算法驱动，可用于创建逼真但完全虚构的内容。虽然深度伪造具有各种潜在应用，包括娱乐和教育，但它们也存在重大风险，尤其是在用于创建非自愿色情内容或传播虚假信息时。现在创建和传播令人信服的深度伪造内容相对容易，这引起了人们对其可能对个人和社会造成危害的严重担忧。

英国通信管理局的一位发言人在一份声明中表示：“保护儿童上网是不容谈判的，《在线安全法案》为我们提供了追究平台责任的工具。我们正在调查 X，以确保他们采取必要措施来防止有害的人工智能生成内容的传播。”

X 尚未发布关于英国通信管理局调查的官方声明。然而，埃隆·马斯克此前曾表示，X 致力于打击有害内容在其平台上的传播，并正在积极改进其内容审核系统。

此次调查正值全球范围内对人工智能生成内容可能造成的危害的审查日益严格之际。世界各国政府和监管机构都在努力研究如何在促进创新的同时监管这项快速发展的技术。例如，欧盟正在最终确定其《人工智能法案》，该法案将为人工智能的开发和部署建立一个全面的法律框架。

英国通信管理局的调查结果可能对 X 和其他越来越多地将人工智能纳入其服务的社交媒体平台产生重大影响。如果英国通信管理局发现 X 未能充分保护其用户免受有害的人工智能生成内容的侵害，它可能面临巨额罚款，并被要求实施更严格的内容审核措施。调查正在进行中，英国通信管理局预计将在未来几个月内提供有关其调查结果的最新信息。