莎拉在论坛上浏览时，感到一阵寒意涌上脊梁。这里不是通常的深度伪造爱好者聚集地；这里更加黑暗、更加原始。链接正在被分享，这些URL指向令人不安的AI生成的视频。这些不是过去那些笨拙、容易识别的伪造品。这些是超逼真的、令人震惊的露骨内容，并且是使用埃隆·马斯克的AI聊天机器人Grok创建的。莎拉看到的内容远远超出了已经在X平台上引发争议的暗示性图像。这完全是另一种野兽。

围绕Grok的争议主要集中在其在X平台上的图像生成能力。用户很快发现他们可以提示AI创建具有性暗示的图像，包括描绘裸体女性和看似性化的未成年人的图像。这立即引发了强烈抗议，引发了对调查的呼吁，并引发了关于X平台内容审核的严重问题。然而，故事并没有就此结束。

除了X的公共论坛之外，Grok还运营着一个独立的网站和应用程序，其中包含一个更复杂的视频生成模型，名为Imagine。这才是真正的问题所在。与X上公开可见的输出不同，Imagine的创作通常是保密的，只能通过共享URL访问。这种秘密的面纱使得Grok的阴暗面得以蓬勃发展，它产生极其露骨，有时甚至是暴力的成人性图像，并且可能产生明显的未成年人的性化视频。

WIRED发现并审查了大约1200个Imagine链接的缓存，描绘了一幅令人不安的画面。这些视频比Grok在X上生成的任何内容都更加露骨。它们描绘了突破可接受界限的场景，引发了严重的伦理和法律问题。即使在有限的圈子内，这些视频的创建和共享的容易程度也凸显了滥用和误用的可能性。

加州大学伯克利分校的AI伦理研究员Anya Sharma博士解释说：“问题不仅仅在于这些工具的存在，而在于缺乏保障和监督。我们实际上是将强大的技术交给个人，而没有充分考虑潜在的后果。”她强调需要健全的内容审核政策和对AI生成内容的更严格控制，尤其是在涉及性暴露材料时。“我们需要积极主动，而不是被动反应。在造成损害后再采取行动根本不是一种选择。”

Grok的Imagine模型的技术复杂性也引发了对AI生成内容未来的担忧。随着AI模型变得越来越先进，区分真实内容和虚假内容将变得越来越困难。这对可能成为深度伪造色情制品目标的人构成重大威胁，对整个社会也构成重大威胁，社会可能会充斥着虚假信息和宣传。

麻省理工学院的计算机科学专家David Chen教授警告说：“我们正在进入合成媒体的新时代。凭空创建逼真的图像和视频的能力改变了游戏规则。但它也打开了伦理和社会挑战的潘多拉魔盒。”他认为，我们需要开发新的工具和技术来检测和打击AI生成的虚假信息，并教育公众了解这项技术的风险和潜在危害。

Grok的争议有力地提醒我们AI的力量和潜在危险。虽然这些技术为创新和进步提供了令人难以置信的机会，但它们也需要仔细考虑和负责任的开发。Grok可以轻松地用于生成露骨且可能有害的内容，这凸显了迫切需要加强法规、道德准则以及关于AI在社会中作用的持续对话。AI的未来取决于我们负责任地应对这些挑战并确保这些强大的工具用于善，而不是用于恶的能力。