加利福尼亚州总检察长罗布·邦塔对埃隆·马斯克的AI模型Grok发起调查，原因是担心其生成和传播性暴露的AI深度伪造内容。这项于周三宣布的调查，重点关注据称由开发Grok的公司xAI制作并发布到网上的材料。

邦塔表示，“近几周，大量报告详细描述了xAI制作并发布到网上的未经同意的、性暴露材料，这令人震惊。” 这项调查提出了关于AI安全以及开发者在防止技术滥用方面的责任的关键问题。

该调查突显了AI可能被武器化用于恶意目的的潜力，引发了关于监管和道德准则的讨论，以减轻与日益复杂的AI技术相关的风险。与此同时，英国首相基尔·斯塔默爵士警告称，可能会对X（前身为Twitter，也归马斯克所有）采取行动。

xAI此前曾表示，“任何使用或提示Grok制作非法内容的人，将承担与上传非法内容相同的后果。” 加利福尼亚州总检察长的调查正在进行中。