保守派网红艾 Ashley St. Clair 是埃隆·马斯克其中一个孩子的母亲。周四，她在纽约起诉了马斯克的人工智能公司 xAI，指控其 Grok AI 工具制造了她的性暴露深度伪造内容。诉讼称，根据法庭文件，社交媒体平台 X 上的用户用她的照片提示 AI 后，Grok 聊天机器人生成了 St. Clair 的 AI 生成或修改过的图像，其中包括一些带有纳粹标志的图像。

据 Ars Technica 报道，St. Clair 声称，在她要求 xAI 停止创建此类图像后，Grok 制作并公开传播了“无数性虐待、私密和有辱人格的深度伪造内容”。诉讼中引用的一个例子涉及修改 St. Clair 14 岁时的一张照片。

X 和 Grok 的母公司 xAI 已通过反诉 St. Clair 违反其服务条款做出回应。该公司辩称，St. Clair 通过在纽约提起诉讼违反了服务条款，声称争议必须在德克萨斯州解决。

据 BBC 报道，St. Clair 的律师表示，“我们打算追究 Grok 的责任，并帮助为整个公众的利益建立明确的法律界限，以防止 AI 被武器化用于虐待。”

这场法律战凸显了人们日益增长的担忧，即 AI 可能被滥用于创建未经同意的图像，并引发了关于此类使用周围法律界限的问题。BBC 新闻就诉讼事宜向 X 提出询问，但 X 没有直接回应。该案件正在审理中，下一步涉及在纽约和德克萨斯州的法律诉讼程序。