英国通信管理局Ofcom已对埃隆·马斯克的社交媒体平台X（前身为Twitter）展开调查，原因是担心X的人工智能聊天机器人Grok可能被用于创建和传播性爱深度伪造内容。这项于周三宣布的调查，重点在于X是否采取了充分的保障措施，以防止该人工智能工具被用于制作和传播非法内容，特别是未经同意的私密图像。

此次调查将审查X是否遵守《在线安全法案》，该法案规定平台有法律责任保护用户免受非法内容和活动侵害。Ofcom有权对违反该法案的公司处以高达其全球营业额10%的罚款。Ofcom发言人表示：“保护用户免受在线非法内容侵害是我们的首要任务。我们正在调查X，以评估他们是否采取了充分措施来防止Grok AI被用于创建和分享非法深度伪造内容。”

深度伪造（Deepfake）是“深度学习”（deep learning）和“伪造”（fake）的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换成其他人的肖像。这项技术由复杂的人工智能算法驱动，引发了人们对虚假信息、侵犯隐私以及恶意使用（包括创建未经同意的色情内容）的严重担忧。Grok是X的人工智能聊天机器人，是一个大型语言模型（LLM），经过大量文本和代码数据集的训练，能够生成类似人类的文本、翻译语言和回答问题。令人担忧的是，用户可能会提示Grok创建未经他人同意的个人性暴露图像。

此次调查凸显了监管人工智能生成内容以及部署这些技术的平台的责任所面临的日益严峻的挑战。专家认为，虽然人工智能提供了诸多好处，但也为滥用行为开辟了新的途径。剑桥大学人工智能伦理学教授安雅·夏尔马博士表示：“像Grok这样的人工智能技术的快速发展，需要采取积极措施来减轻潜在危害。平台必须实施强有力的保障措施，以防止深度伪造内容的创建和传播，特别是那些具有性暴露和未经同意的内容。”

X尚未就Ofcom的调查发表正式声明。然而，马斯克此前曾表示，他致力于打击在该平台上滥用人工智能的行为。调查结果可能会对X和其他将人工智能整合到其服务中的社交媒体公司产生重大影响。Ofcom的调查结果可能会影响英国和国际上人工智能生成内容监管框架的制定。调查正在进行中，Ofcom预计会随着调查的进展提供最新情况。