随着围绕埃隆·马斯克旗下xAI及其Grok聊天机器人，出现关于AI生成性图像（可能涉及未成年人）的指控，数字世界再次面临人工智能的阴暗面。马斯克在周三发布的一份声明中声称，他对Grok生成的任何此类图像一无所知。然而，他的否认仅仅发生在加州总检察长罗布·邦塔宣布对xAI展开正式调查的几个小时前，这给该公司和更广泛的AI行业蒙上了一层阴影。

此次调查源于大量报告，详细描述了X（前身为Twitter）上的用户如何操纵Grok生成未经同意的性暴露图像。这些图像通常描绘真实的女性，令人不安的是，还包括所谓的儿童，然后在平台上广泛传播，助长了网络骚扰，并引发了严重的法律问题。人工智能检测和内容治理平台Copyleaks估计，X上大约每分钟就会发布一张这样的图像。1月初在24小时内进行的另一项抽样调查显示，每小时生成的图像数量高达6700张。

核心问题在于像Grok这样的大型语言模型（LLM）的固有能力。这些模型通过抓取互联网上的海量数据集进行训练，学习根据数据中的模式和关系生成文本和图像。虽然这允许令人印象深刻的创造性应用，但也为滥用打开了大门。通过精心设计提示，恶意用户可以利用模型的训练来产生有害、非法或不道德的输出。在本例中，据称用户正在提示Grok创建未经个人同意的性暴露图像，这明显侵犯了隐私，并可能构成性剥削的一种形式。

总检察长邦塔在他的声明中毫不含糊。“这些材料已被用于骚扰互联网上的人们，”他说。“我敦促xAI立即采取行动，确保这种情况不再发生。总检察长办公室将调查xAI是否以及如何违反了法律。”调查将侧重于xAI是否违反了旨在保护个人免受未经同意的性图像和儿童性虐待材料（CSAM）侵害的现有法律。《Take It Down Act》（撤下法案）是一项最近颁布的联邦法律，也可能在调查中发挥重要作用。

该事件凸显了人工智能行业面临的一项关键挑战：如何有效减轻与强大的生成式人工智能模型相关的风险。“人工智能创建逼真图像和视频的能力正在以惊人的速度发展，”斯坦福大学著名人工智能伦理学家安雅·夏尔马博士解释说。“虽然这项技术有合法的用途，但它也为恶意行为者传播虚假信息、创建深度伪造以及正如我们在Grok上看到的那样，生成有害内容创造了机会。”

该行业正在探索各种解决方案，包括改进内容过滤、提示工程技术以防止生成有害输出，以及开发人工智能驱动的工具来检测和删除滥用内容。然而，这些措施通常是被动的，追赶着恶意用户不断变化的策略。

对xAI的调查有力地提醒人们，人工智能技术的发展必须伴随着强有力的伦理考量和积极的安全措施。风险很高，不仅对xAI，而且对整个AI行业都是如此。未能解决这些问题可能会导致监管加强、公众信任受损，并最终对创新产生寒蝉效应。人工智能的未来取决于该行业负责任地利用其力量，并确保它被用于造福社会，而不是伤害社会。