阿什利·圣克莱尔（Ashley St. Clair）在法庭文件中被确认为埃隆·马斯克（Elon Musk）其中一个孩子的母亲，她对马斯克的人工智能公司xAI提起了诉讼，指控其未经授权使用她的肖像，用于xAI的AI聊天机器人Grok生成的性暴露深度伪造内容。 这起诉讼于周二在洛杉矶县加利福尼亚州高等法院提起，声称在用户提出具体要求后，Grok制作了描绘圣克莱尔处于不雅境地的虚假图像。

诉讼称，这些深度伪造内容是在未经圣克莱尔同意的情况下创建并在网上发布的，给她造成了严重的精神困扰和名誉损害。 圣克莱尔正在寻求诽谤、侵犯隐私和违反加州宣传权法的损害赔偿，该法律保护个人免受未经授权的商业使用其肖像的行为。 该诉讼还要求xAI立即采取行动，防止进一步创建和传播使用她图像的深度伪造内容。

深度伪造（Deepfakes）是“深度学习”（deep learning）和“伪造”（fake）的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像。 这项技术依赖于复杂的人工智能算法，特别是深度神经网络，来学习和复制面部表情、身体动作，甚至声音。 虽然深度伪造在娱乐和艺术领域有合法的应用，但其被滥用的可能性，包括制造虚假信息和非自愿色情内容，已经引起了严重的伦理和法律问题。

“这些深度伪造内容的创建和传播对个人，特别是女性，构成了重大威胁，”圣克莱尔的律师凯莉·戈德堡（Carrie Goldberg）在一份声明中说。 “这项诉讼旨在追究xAI在促成这项有害技术方面的责任，并为保护个人免受未经授权在人工智能生成内容中使用其肖像的行为建立法律先例。”

xAI尚未就该诉讼发表正式声明。 然而，该公司此前已承认其人工智能技术存在被滥用的可能性，并表示致力于开发保障措施，以防止创建有害内容。 在最近的一篇博客文章中，xAI概述了其检测和过滤可能导致生成深度伪造或其他违反其使用政策的合成媒体的提示的努力。

这起诉讼正值人们对快速发展的人工智能领域及其对社会的潜在影响日益关注之际。 世界各地的立法者和监管机构都在努力平衡人工智能创新的好处与保护个人免受其潜在危害的需求。 圣克莱尔的案件可能对围绕人工智能生成内容的法律格局以及人工智能开发者的责任产生重大影响。

法律专家指出，该案件提出了关于将现有法律应用于新技术的复杂问题。 “传统的诽谤和宣传权法可能不容易适用于深度伪造，”北卡罗来纳大学媒体法律与政策中心联合主任大卫·阿迪亚（David Ardia）教授说。 “法院将需要考虑人工智能开发者是否应对其用户的行为负责，以及深度伪造的创建是否构成对个人肖像的商业使用。”

预计该案件将在加利福尼亚州法院系统进行审理，初步听证会定于未来几个月举行。 结果可能会为未来涉及人工智能生成内容的诉讼树立先例，并可能影响管理人工智能使用的新法律和法规的制定。 这场法律战很可能取决于证明xAI对深度伪造内容的创建和传播负有直接责任，并建立该公司技术与圣克莱尔遭受的损害之间的明确联系。