英国慈善机构互联网观察基金会 (IWF) 主要负责识别和移除网络上的儿童性虐待图像。该机构报告称，他们发现了疑似由埃隆·马斯克旗下 xAI 公司开发的人工智能模型 Grok 生成的图像。IWF 与互联网服务提供商合作，阻止访问非法内容。该机构在周二发布的一份声明中表示，在识别出具有人工智能生成特征的图像后，对其进行了标记。

IWF 没有透露图像的具体性质，但该组织证实图像涉及对儿童性虐待的描绘。IWF 的分析表明，这些图像很可能是使用 Grok 创建的，但由于人工智能生成内容的不断发展以及追踪其精确来源的难度，确定最终归属仍然具有挑战性。

IWF 首席执行官 Susie Hargreaves OBE 在一份新闻稿中表示：“我们首要关注的是保护儿童。人工智能技术的快速发展给这一领域带来了新的挑战，我们正在努力调整我们的方法，以有效地识别和移除此类内容。”

xAI 尚未就 IWF 的调查结果发表正式声明。然而，熟悉该公司内部流程的消息人士表示，xAI 正在调查这些指控，并审查其安全协议，以防止生成有害内容。Grok 目前可供 X Premium+ 订阅者使用，它是一种大型语言模型，旨在生成文本、翻译语言、撰写不同类型的创意内容，并以信息丰富的方式回答问题。它接受了大量文本和代码数据集的训练，使其能够执行各种任务。

该事件凸显了人们对人工智能技术潜在滥用的日益担忧，尤其是在创建儿童性虐待材料方面。该领域的专家警告说，人工智能模型可能被利用来生成逼真且容易获得的图像，对儿童安全构成重大威胁。

柏林赫尔梯学校的伦理与技术教授 Joanna Bryson 博士表示：“这对整个 AI 行业来说是一个警钟。开发人员需要优先考虑安全性，并实施强有力的保障措施，以防止他们的模型被用于恶意目的。这包括投资于先进的检测方法，并与像 IWF 这样的组织合作，以应对这种不断演变的威胁。”

IWF 的发现强调了在人工智能内容检测方面进行持续研发的必要性。目前的方法通常依赖于识别图像中的特定模式或异常，但人工智能模型在不断发展，因此很难保持领先地位。该组织正在与科技公司和执法机构合作，开发更先进的工具，以识别和移除人工智能生成的儿童性虐待材料。

对 Grok 生成图像的调查仍在进行中。IWF 正在与相关部门合作，以确定适当的行动方案。该事件可能会进一步引发关于人工智能技术监管以及开发人员在防止其滥用方面的责任的辩论。调查结果也给 xAI 带来了压力，要求其展示对安全的承诺，并实施有效措施，以防止 Grok 在未来生成有害内容。