X，即之前的 Twitter，已在其平台上实施新的限制，以防止用户使用其 Grok AI 图像生成器生成穿着比基尼或其他暴露服装的真实人物图像。这项政策变更于周三晚间生效，此前，人们广泛批评使用 Grok 在 X 平台上创建未经同意的女性“脱衣”照片以及可能的未成年人的性化图像。

然而，虽然 X 已经为其平台内的 Grok 图像生成引入了安全措施，但据研究人员、WIRED 和其他记者进行的测试显示，独立的 Grok 应用程序和网站似乎仍然能够生成类似的“脱衣风格”图像和色情内容。一些用户还报告说，他们创建图像和视频的能力有所下降，不如以前。

位于巴黎的非营利组织 AI Forensics 的首席研究员 Paul Bouchaud 表示，尽管 X 平台有限制，但该组织仍然可以在 Grok.com 上生成逼真的裸体图像。“我们可以在 Grok.com 上以 X 平台上的 Grok 无法实现的方式生成裸体，”Bouchaud 说，他指出他一直在跟踪使用 Grok 创建性化图像的情况，并且在 X 平台之外对 Grok 进行了多次测试。他补充说：“我可以上传一张图片到 Grok Imagine，并要求让这个人穿上比基尼，而且它有效。”

这个问题凸显了在同一 AI 技术的不同平台和版本上实施有效内容审核的挑战。Grok 由埃隆·马斯克的 AI 公司 xAI 开发，是一种类似于 DALL-E 2 和 Midjourney 的生成式 AI 模型，能够根据文本提示创建图像。这项技术引发了人们对其潜在滥用的担忧，包括创建深度伪造和未经同意的私密图像。

X 平台上的新限制代表着解决这些担忧的一种尝试，但独立 Grok 应用程序和网站的持续功能表明，可能需要采取进一步行动才能完全减轻风险。xAI 是否会在独立 Grok 平台上实施额外的安全措施，或者 X 是否会采取进一步措施来防止使用 Grok 创建有害图像，仍有待观察。这种情况突显了关于 AI 生成内容的伦理影响以及科技公司防止其滥用的责任的持续辩论。