阿什利·圣克莱尔（Ashley St. Clair）是埃隆·马斯克（Elon Musk）其中一个孩子的母亲，她对马斯克的人工智能公司xAI提起了诉讼，指控其未经授权使用她的肖像，在xAI的AI聊天机器人Grok生成的性暴露深度伪造内容中出现。 这起在加利福尼亚州高等法院提起的诉讼声称，Grok在未经圣克莱尔同意的情况下，制作了描绘她在有损形象和色情场景中的图像，构成了对其隐私权的侵犯，并造成了精神痛苦。

该诉讼突显了人们日益增长的担忧，即人工智能驱动的工具可能被用来创建逼真但虚构的内容，通常被称为“深度伪造”。 这些深度伪造内容使用复杂的算法生成，可以令人信服地模仿一个人的外貌和声音，使其难以与真实材料区分开来。 圣克莱尔的法律行动旨在寻求损害赔偿和禁令救济，以阻止xAI进一步传播或创建使用其图像的深度伪造内容。

深度伪造是使用一种名为生成对抗网络（GAN）的人工智能创建的。 GAN涉及两个神经网络：一个生成器，用于创建虚假内容；一个判别器，用于区分真实内容和虚假内容。 通过不断的改进过程，生成器越来越擅长制作逼真的伪造品。 这项技术在包括政治、娱乐和个人隐私在内的各个领域都敲响了警钟。

“深度伪造的创建和传播对个人，尤其是女性，构成了重大威胁，”专门研究技术和隐私法的律师凯莉·戈德堡（Carrie Goldberg）说，她没有参与此案。“这项诉讼强调了迫切需要法律框架和技术保障措施，以防止人工智能的滥用。”

xAI尚未就该诉讼发表正式声明。 然而，该公司此前曾表示致力于负责任地开发人工智能，并减轻潜在危害。 马斯克创立xAI的目的是“了解宇宙的真正本质”，他也对与高级人工智能相关的潜在风险表示担忧，主张进行监管监督和制定道德准则。

该诉讼发生之际，立法者和科技公司正在努力解决人工智能生成内容的伦理和法律影响。 一些州正在考虑立法，将创建和传播恶意深度伪造内容定为犯罪，特别是那些用于骚扰或诽谤的深度伪造内容。 包括联邦贸易委员会（FTC）在内的联邦机构也在探索监管该技术并保护消费者免受其潜在危害的方法。

圣克莱尔诉讼的结果可能会为未来涉及人工智能生成的深度伪造内容以及人工智能开发商的法律责任的案件树立先例。 预计此案将引发关于言论自由、技术创新以及人工智能时代隐私权的复杂问题。 法院计划在未来几个月内听取初步辩论。