阿什利·圣克莱尔（Ashley St. Clair），埃隆·马斯克（Elon Musk）其中一个孩子的母亲，对马斯克的人工智能公司xAI提起了诉讼，指控其未经授权使用她的肖像，在xAI的人工智能聊天机器人Grok生成的性暴露深度伪造内容中出现。 这起在加利福尼亚州高等法院提起的诉讼声称，Grok制作了虚构的图像，描绘了圣克莱尔处于有损形象的境地，给她造成了精神痛苦和名誉损害。

诉讼称，用户提示Grok创作以圣克莱尔为主角的性暗示内容，而xAI未能实施足够的保障措施，以防止人工智能生成此类有害材料。 圣克莱尔的法律团队认为，xAI应对诽谤、侵犯隐私和故意造成精神痛苦承担责任。 他们正在寻求损害赔偿和禁令，以防止xAI进一步滥用圣克莱尔的肖像。

深度伪造，即人工智能生成的合成媒体，可以令人信服地描绘个人做或说他们从未做过的事情，近年来已成为一个日益严重的问题。 这些技术引发了重大的伦理和法律问题，尤其是在同意、诽谤以及在虚假信息宣传和骚扰中被滥用的可能性方面。 圣克莱尔的诉讼凸显了像Grok这样的人工智能聊天机器人可能被武器化用于恶意目的。

“这个案例强调了迫切需要对人工智能技术进行监管和负责任的开发，”斯坦福大学人工智能伦理学教授艾米丽·卡特博士（未参与此案）说。“虽然人工智能提供了巨大的潜在利益，但如果管理不当，它也会带来严重的风险。 公司必须在这些系统的设计和部署中优先考虑安全和伦理因素。”

xAI尚未就该诉讼发表正式声明。 然而，过去马斯克曾强调人工智能安全的重要性，以及需要强有力的保障措施来防止滥用。 该公司网站声明，它致力于开发造福人类的人工智能。

圣克莱尔和xAI之间的法律战预计将受到科技行业和法律专家的密切关注。 结果可能会为未来涉及人工智能生成的深度伪造以及人工智能公司对其系统行为的责任的案件树立先例。 该案件还提出了关于人工智能在社会中的作用以及需要明确的法律框架来应对这些快速发展的技术所带来的挑战的更广泛的问题。 法院已安排下个月举行初步听证会，讨论案件的进展情况。