埃隆·马斯克的一个孩子的母亲正在起诉他的人工智能公司xAI，声称其Grok聊天机器人能够生成她的性暴露深度伪造图像，导致其遭受羞辱和精神痛苦。 这起诉讼是在加利福尼亚州总检察长罗布·邦塔向xAI发出停止令之前提交的，该停止令要求该公司停止创建和传播Grok生成的未经同意的性化图像。

深度伪造是“深度学习”和“伪造”的合成词，是指使用人工智能将现有图像或视频中的人物替换为其他人的肖像的合成媒体。 Grok是xAI的大型语言模型（LLM），旨在根据用户提示生成文本和图像。 该诉讼声称，Grok的功能被利用来创建未经原告同意的、逼真的、性剥削性的图像。

总检察长邦塔的停止令强调了围绕人工智能生成内容的日益增长的法律和伦理问题。 “大量报告详细描述了这种材料，有时描绘了从事性活动的妇女和儿童，令人震惊，”该信函指出，并补充说，他的办公室确定这种活动违反了加利福尼亚州法律。

该案件凸显了日益复杂的人工智能技术的更广泛的社会影响。 像Grok这样的大型语言模型虽然在各个领域具有潜在的好处，但也带来了与虚假信息、侵犯隐私和创建有害内容相关的风险。 生成逼真但捏造的图像的能力引发了人们对在线内容真实性的质疑，以及在诽谤、骚扰和政治操纵等领域被滥用的可能性。

该事件引发了国际社会的关注。 马来西亚最近因公众强烈抗议生成未经同意的性化图像而阻止了对Grok的访问。 在英国，当局已对Grok展开调查，理由是“令人深感担忧的深度伪造”。

埃隆·马斯克否认事先知道Grok被用于制作未成年人的性化图像。 xAI此后宣布，Grok将禁止用户生成真实人物的性图像。 然而，批评人士认为，需要更强有力的保障措施来防止人工智能技术的滥用。

该诉讼和停止令代表了关于人工智能监管和问责制辩论的重大升级。 该案件的结果可能会为未来与人工智能生成内容相关的法律挑战树立先例，并影响人工智能公司更严格的指导方针的制定。 该案件仍在进行中，xAI尚未对该诉讼做出正式回应。