X，前身为 Twitter，于周三晚实施了新的限制措施，旨在防止使用其 Grok AI 图像生成器生成描绘真人穿着暴露服装的图像。此前，Grok 因被用于在平台上创建未经同意的女性“脱衣”照片和未成年人色情图像而受到广泛批评，此次政策变更正是对此的回应。

然而，尽管 X 似乎已在其自身平台上引入了安全措施，但据研究人员、WIRED 和其他记者进行的测试显示，独立的 Grok 应用程序和网站仍在生成类似类型的图像。一些用户还报告说，与之前的能力相比，他们在创建图像和视频方面遇到了限制。

总部位于巴黎的非营利组织 AI Forensics 的首席研究员保罗·布乔德表示，该组织仍然能够在 Grok.com 上生成逼真的裸体图像。“我们可以在 Grok 上以 X 无法做到的方式生成裸体，”布乔德说，他指出他一直在跟踪使用 Grok 创建色情图像的行为，并在 X 之外的平台上进行了多次测试。他补充说：“我可以上传一张图片到 Grok Imagine，并要求让这个人穿上比基尼，它就能做到。”

这种差异凸显了在利用相同 AI 技术的不同平台和界面上实施全面安全措施所面临的挑战。Grok 的图像生成能力依赖于复杂的算法，这些算法难以有效控制和监控。该技术使用扩散模型，这些模型在大量的图像和文本数据集上进行训练，使其能够根据用户提示生成新的图像。然而，这也意味着如果监管不当，这些模型可能会被利用来创建有害或不适当的内容。

在 X 上引入限制措施代表着朝着解决 AI 生成的色情图像问题迈出的第一步。然而，独立 Grok 平台上此类内容的持续存在，引发了人们对这些措施有效性的担忧。该事件强调了持续监控、完善安全协议以及技术公司、研究人员和政策制定者之间合作的必要性，以减轻与 AI 图像生成相关的潜在危害。该行业的潜在影响可能包括对 AI 驱动工具的更严格审查，以及推动更严格的法规以防止滥用。