英国通信管理局Ofcom已对埃隆·马斯克的社交媒体平台X（前身为Twitter）展开调查，原因是人们对X的人工智能聊天机器人Grok生成的性暴露深度伪造内容泛滥表示担忧。这项于周三宣布的调查，重点在于X是否已建立充分的系统，以防止这些人工智能生成的图像的创建和传播，特别是那些描绘未经同意的个人的图像。

此次调查将评估X对《在线安全法案》的遵守情况，该法案规定平台有法律上的注意义务，以保护用户免受非法和有害内容的侵害。Ofcom正在具体审查X是否违反了其关于非法内容的义务，包括儿童性虐待材料以及未经同意创建和传播深度伪造内容。一个关键的关注点是Grok可能被滥用以生成逼真但虚构的性图像，从而引发对隐私、声誉以及潜在的骚扰和敲诈勒索的严重担忧。

深度伪造（deepfake）是“深度学习”（deep learning）和“伪造”（fake）的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像。这项技术利用复杂的人工智能算法，特别是深度神经网络，以令人信服地交换面孔或操纵音频和视频内容。虽然深度伪造在娱乐和教育方面具有潜在的应用价值，但其滥用会带来重大风险。创建未经同意的私密图像，通常被称为“复仇色情”深度伪造，是一个日益严重的问题，因为这些图像可能会对受害者造成严重的精神痛苦和名誉损害。

Ofcom发言人在一份声明中表示：“保护人们免受在线非法内容的侵害是首要任务。我们正在调查X，以评估其是否已采取适当措施来防止在其平台上创建和传播非法深度伪造内容。”

X尚未发布关于Ofcom调查的官方声明。然而，埃隆·马斯克此前曾表示，他致力于打击在该平台上滥用人工智能的行为。该公司的政策禁止创建和传播剥削、虐待或危害儿童的内容，并且已经实施了检测和删除此类材料的措施。然而，批评人士认为，这些措施不足以应对人工智能生成的深度伪造内容迅速演变的威胁。

此次调查正值全球对人工智能潜在滥用行为的审查日益严格之际。世界各国政府和监管机构都在努力平衡人工智能创新带来的好处与保护个人免受伤害的需求。例如，欧盟正在最终确定其《人工智能法案》，该法案将对高风险人工智能系统（包括用于生成深度伪造内容的系统）施加严格的监管。

Ofcom调查的结果可能会对X和其他社交媒体平台产生重大影响。如果发现X违反了《在线安全法案》，它可能面临巨额罚款，并被要求实施更强大的保障措施，以防止非法内容的创建和传播。调查正在进行中，Ofcom尚未提供完成时间表。调查结果可能会影响未来对社交媒体平台上人工智能生成内容的监管方法。