英国通信管理局Ofcom已对埃隆·马斯克的社交媒体平台X（前身为Twitter）展开调查，原因是人们对X的人工智能聊天机器人Grok生成的性暴露深度伪造内容泛滥表示担忧。这项于周三宣布的调查重点关注X是否建立了充分的系统和流程，以保护用户免受有害内容侵害，特别是未经当事人同意，描绘个人性行为的合成媒体。

此次调查的重点是可能违反《在线安全法》的行为，该法规定社交媒体平台有法律上的注意义务，以保护用户免受非法和有害内容的侵害。Ofcom将评估X对这些法规的遵守情况，审查该平台的风险评估、内容审核政策以及与人工智能生成的性暴露深度伪造相关的执法机制。一个关键的关注领域将是X如何识别和删除此类内容，以及如何防止其重新上传。

深度伪造是一种合成媒体，它利用人工智能，特别是深度学习技术，来创建高度逼真但虚构的视频或图像。在性暴露深度伪造的背景下，人工智能被用来将一个人的脸叠加到从事性行为的人的身体上。这项技术引发了重大的伦理和法律问题，因为它可能被用来制造未经同意的色情制品、损害声誉，并对受害者造成严重的精神痛苦。Grok相对容易地被提示生成此类内容，这加剧了这些担忧。

Ofcom的一位发言人表示：“创建和传播性暴露深度伪造是一种极具危害性的行为，平台有责任保护其用户免受此类滥用。”“我们的调查将审查X是否正在采取充分措施来解决人工智能生成内容带来的风险，并确保其用户的安全。”

X尚未就Ofcom的调查发表正式声明。然而，埃隆·马斯克此前曾表示，他致力于打击在该平台上滥用人工智能的行为。该公司的内容审核政策禁止创建和传播未经同意的露骨图像，包括深度伪造。挑战在于人工智能技术的快速发展，这使得检测和删除合成内容变得越来越困难。

人工智能伦理和政策方面的专家对Ofcom的调查表示欢迎，强调迫切需要监管框架来解决人工智能生成内容对社会的影响。“这项调查是追究社交媒体平台对其网站上共享内容责任的关键一步，”牛津互联网研究所专门研究人工智能治理的研究员Anya Sharma博士说。“我们需要明确的指导方针和强有力的执法机制，以防止人工智能的滥用，并保护个人免受与深度伪造相关的危害。”

预计调查将持续数月，如果Ofcom发现该平台违反了《在线安全法》，它有权对X处以巨额罚款。这项调查的结果可能会对英国和国际上社交媒体平台上人工智能生成内容的监管产生深远的影响。它还强调了科技公司面临越来越大的压力，需要积极应对快速发展的人工智能技术所带来的伦理和社会挑战。Ofcom将在调查完成后公布其调查结果。