在对其 Grok AI 被用于创建未经同意的性暴露图像一事受到广泛批评后，前身为 Twitter 的 X 平台已在其平台上实施了新的限制，以防止用户编辑和生成真人穿着暴露服装的图像。这项于周三晚间推出的政策变更旨在解决对生成有害的女性“脱衣”照片和明显的未成年人色情图像的担忧。

然而，虽然 X 似乎已在其平台内的 Grok 图像生成中引入了安全措施，但独立测试表明，独立的 Grok 应用程序和网站仍然允许创建此类图像。来自 WIRED 的研究人员、记者和其他测试人员报告说，他们能够通过独立的 Grok 平台生成“脱衣式”图像和色情内容。相反，一些用户报告说，与以前的功能相比，创建图像和视频的能力有所降低。

总部位于巴黎的非营利组织 AI Forensics 的首席研究员保罗·布乔德表示：“我们仍然可以在 Grok.com 上生成逼真的裸体图像……我们生成裸体的方式是 X 平台上的 Grok 无法做到的。”布乔德一直在追踪使用 Grok 创建性暴露图像的情况，他在 X 平台之外进行了多次测试。他进一步解释说：“我可以上传一张图片到 Grok Imagine，然后要求让这个人穿上比基尼，它就能做到。”

X 平台上的限制与独立 Grok 的功能之间的差异凸显了监管 AI 图像生成技术所面临的挑战。操纵图像并创建个人在有损形象的情况下逼真描绘的能力引发了重大的伦理和法律问题，特别是关于同意以及被滥用的可能性。

Grok 和类似的 AI 图像生成工具的推出，在科技行业和政策制定者中引发了关于需要更严格的法规和保障措施的辩论。专家认为，开发人员在部署此类技术时必须优先考虑安全和伦理因素，包括实施强大的内容审核系统和机制，以防止创建有害或具有剥削性的内容。

Grok 图像生成功能的当前状态仍然是许多人关注的问题，因为在独立平台上仍然存在被滥用的可能性。目前尚不清楚 X 计划采取哪些措施来解决这一持续存在的问题，并确保所有 Grok 平台都采取一致的安全措施。随着研究人员和倡导团体继续监测情况并推动更强有力的法规，预计将会有进一步的发展。