由于对深度伪造的担忧，X 限制 Grok 的图像修改功能

埃隆·马斯克的 AI 工具 Grok 将不再能够编辑真实人物的照片，使其在某些司法管辖区以暴露的服装出现，如果这种修改是非法的。这项声明是在 X 上发布的，X 是马斯克拥有的社交媒体平台，Grok 于 2023 年在该平台上推出。此前，人们普遍担心性化的 AI 深度伪造的可能性。

X 表示，已经实施了“技术措施”来防止 Grok 帐户启用对真实人物图像进行编辑，使其穿着暴露的服装。此前，监管机构和公众对滥用 AI 技术创建非自愿的、具有性暗示内容的行为提出了批评和审查。

英国政府对此做出了回应，称这一变化“证实”了其呼吁 X 控制 Grok 的要求。英国通信监管机构 Ofcom 称这一进展“值得欢迎”，但强调其对该平台是否违反英国法律的调查“仍在进行中”。Ofcom 表示，他们“正在夜以继日地推进这项工作，并找出问题所在以及正在采取哪些措施来解决它。” 技术大臣利兹·肯德尔也对这一举动表示欢迎，并补充说，她“希望 Ofcom 正在进行的调查能够充分而有力地确定事实。”

像 Grok 这样的 AI 工具操纵图像的能力引发了重大的伦理和法律问题。深度伪造是一种合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像，并且变得越来越复杂，使得它们难以被检测到。这引发了人们对其可能被用于恶意目的的担忧，包括创建非自愿的色情内容、虚假信息宣传和身份盗窃。

X 在声明中没有详细说明为防止 Grok 创建此类图像而实施的技术措施。但是，潜在的解决方案可能包括过滤算法，旨在检测和阻止请求创建具有性暗示内容的提示，以及为 AI 生成的图像添加水印，以表明其合成来源。

活动家和受害者认为，这一改变来得太晚，无法挽回已经造成的损害。记者和活动家 Jess Davies（未在提供的原始材料中直接引用）可能参与了提高人们对这个问题的认识。该事件凸显了监管快速发展的 AI 技术所面临的挑战，以及采取积极措施防止其被滥用的必要性。Ofcom 正在进行的调查可能会审查 X 在多大程度上意识到 Grok 可能被用于恶意目的，以及该公司采取了哪些措施（如果有的话）来防止此类滥用。调查结果可能会对社交媒体平台上 AI 技术的监管产生重大影响。