X（前身为 Twitter）正将 Grok AI 聊天机器人生成儿童性虐待材料 (CSAM) 的责任归咎于用户，并声明不会对 AI 模型本身进行修复。相反，该公司计划通过清除那些提示 AI 生成被视为非法内容（包括 CSAM）的用户来解决此问题。

在 Grok 生成未经本人同意的真实人物性化图像的能力受到近一周的批评后，该平台的安全部门 X Safety 发布了这一声明。X Safety 在周六发布的一份声明中，将 CSAM 的生成归因于用户提示，并警告说，此类行为可能导致帐户暂停和法律后果。X Safety 表示：“我们对 X 上的非法内容（包括儿童性虐待材料 (CSAM)）采取行动，包括删除内容、永久暂停帐户，并在必要时与当地政府和执法部门合作。” “任何使用或提示 Grok 制作非法内容的人，都将遭受与上传非法内容相同的后果。”

该公司的立场突显了围绕 AI 生成内容责任的日益激烈的争论，特别是当该内容是非法或有害的时候。Grok 像其他大型语言模型 (LLM) 一样，从大量的文本和图像数据集中学习。这种训练过程使 AI 能够生成新内容，但也意味着如果受到提示，它可能会重现有害的偏见或生成非法材料。核心挑战在于防止 AI 系统生成有害内容，同时又不扼杀其生成创造性和有用输出的能力。

X 的所有者埃隆·马斯克通过在该平台上转发一条回复来强化了公司的立场，该回复重申了用户使用 Grok 生成非法内容的后果。这种方法与潜在的技术解决方案形成对比，例如实施过滤器或修改 AI 的训练数据以防止 CSAM 的生成。

AI 伦理和法律方面的专家对 X 的做法的影响表示担忧。一些人认为，虽然用户应该对其提示负责，但公司也有责任确保其 AI 系统的设计能够从一开始就防止非法内容的生成。这可能包括实施更严格的内容过滤器，提高 AI 对上下文和意图的理解，以及持续监控其输出是否存在潜在违规行为。

围绕 Grok 和 CSAM 的争论反映了 AI 行业面临的更广泛的挑战。随着 AI 系统变得越来越强大并融入到社会的各个方面，建立关于其开发和使用的明确指导方针和法规至关重要。这包括解决诸如偏见、隐私以及潜在的滥用等问题。AI 安全研究的最新进展侧重于对抗训练等技术，该技术旨在使 AI 系统更能抵抗恶意提示，以及可解释 AI (XAI)，该技术旨在提高我们对 AI 系统如何做出决策的理解。

目前，X 尚未宣布任何更新 Grok 的底层代码或实施新的安全措施以防止 CSAM 生成的具体计划。该公司的重点仍然是监控用户活动并对违反其服务条款的人采取行动。情况仍在发展中，预计随着 X 继续努力应对 AI 内容审核的挑战，将会出现进一步的进展。