英国慈善机构互联网观察基金会 (IWF) 专注于识别和移除网络上的儿童性虐待图像，该机构报告称，他们发现了一些“似乎是由”Grok 创建的图像，Grok 是埃隆·马斯克旗下 xAI 公司开发的人工智能模型。IWF 与互联网服务提供商和社交媒体平台合作，阻止访问非法内容，他们在日常监控活动中发现了这些图像。

IWF 没有公布图像的数量或确切性质，理由是需要保护潜在的受害者，并避免进一步传播这些材料。但一位发言人证实，这些图像被标记为潜在的 AI 生成的儿童性虐待材料 (CSAM)。“我们的分析表明，这些图像极有可能是由 AI 参与创作的，”该发言人表示。“AI 生成此类内容的速度和规模对我们保护儿童在线安全的工作构成了重大挑战。”

Grok 于 2023 年 11 月推出，是一个大型语言模型 (LLM)，旨在以对话的方式生成文本、翻译语言和回答问题。目前，X Premium+ 的订阅者可以使用该模型，X Premium+ 是 X 订阅服务的最高级别。Grok 与其他 LLM 的区别在于，它声称能够访问来自 X（前身为 Twitter）的实时信息，并且具有“叛逆”和幽默的语气。xAI 尚未发布关于 Grok 架构或训练数据的详细技术规范。

AI 生成的 CSAM 的出现日益引起科技行业和儿童安全倡导者的关注。专家警告说，AI 能够轻松快速地生成逼真且具有剥削性的图像，这可能会使现有的检测和移除系统不堪重负。目前识别 CSAM 的方法通常依赖于数字指纹识别和人工审查，这些技术可能难以跟上 AI 生成内容快速扩散的步伐。

“这是一个分水岭时刻，”牛津大学 AI 伦理学专家艾米丽·卡特博士说。“我们早就预料到 AI 可能会以这种方式被滥用，现在我们看到了具体的证据。该行业需要优先开发强大的安全措施，以防止 AI 生成的 CSAM 的创建和传播。”

xAI 尚未就 IWF 的调查结果发表正式声明。然而，埃隆·马斯克此前曾表示，xAI 致力于以负责任和合乎道德的方式开发 AI。xAI 将采取哪些具体措施来解决 Grok 可能被用于生成 CSAM 的问题，还有待观察。IWF 正在与 xAI 合作，提供信息并支持他们的调查。该事件凸显了 AI 开发人员、执法部门和儿童保护组织之间迫切需要合作，以应对 AI 生成的儿童性虐待材料这一不断演变的威胁。