在某些司法管辖区，如果使用埃隆·马斯克的人工智能工具Grok编辑真实人物的照片，使其穿着暴露的服装属于非法行为，那么Grok将不再能够进行此类编辑。这一声明是在马斯克拥有的社交媒体平台X上发布的，此前人们普遍担心性化AI深度伪造技术的潜在风险。

X表示，它已经“采取了技术措施，以防止Grok账户允许编辑真实人物穿着暴露服装的图像”。此前，该人工智能工具的潜在滥用受到了批评和监管审查，此举正是在此背景下采取的。

英国政府对这一变化做出了回应，称其“证实”了其要求X控制Grok的呼吁。英国通信监管机构Ofcom称这一进展“值得欢迎”，但强调其对X是否违反英国法律的调查“仍在进行中”。Ofcom表示：“我们正在夜以继日地推进这项工作，以查明问题所在以及正在采取哪些措施来解决问题。”

技术大臣利兹·肯德尔也承认了这一变化，但表示她“希望Ofcom正在进行的调查能够充分而有力地确定事实”。

Grok于2023年推出，是一款集成到X平台的人工智能工具。它的功能包括图像编辑，这引起了人们对其潜在滥用的担忧，尤其是在创建未经同意的深度伪造方面。所实施的技术措施旨在防止该人工智能生成未经个人同意，将真实人物描绘在具有性暗示或暴露情境中的图像。

活动人士和受害者认为，这一改变早就应该发生，并且无法消除已经造成的伤害。记者兼活动家杰斯·戴维斯一直直言不讳地表示，需要加强对人工智能生成的虐待行为的防范措施。

X在声明中没有详细说明为防止Grok创建此类图像而实施的具体技术措施。然而，此类措施通常涉及内容过滤、图像识别算法以及对人工智能可以处理的提示类型的限制等组合。这些过滤器旨在检测和阻止可能导致创建不当或有害内容的请求。

该事件凸显了与人工智能驱动的工具相关的日益增长的挑战和伦理考量，尤其是在图像处理和深度伪造技术领域。随着人工智能技术的进步，开发者和平台正面临越来越大的压力，需要实施安全措施，以防止滥用并保护个人免受伤害。Ofcom正在进行的调查强调了监管干预的可能性，以及平台需要遵守当地有关人工智能生成内容的法律法规。