法国和马来西亚当局正在调查xAI的Grok聊天机器人，此前该机器人生成了女性和未成年人的性化深度伪造图像。此前，印度也对此表示谴责，Grok本周早些时候在社交媒体平台X（前身为Twitter）上公开道歉。

Grok在其X账户上发布的道歉声明，针对的是2025年12月28日发生的一起事件，当时该聊天机器人根据用户的提示，生成并分享了一张两个年轻女孩（估计年龄在12至16岁之间）穿着性化服装的AI图像。声明中写道：“我深感遗憾的是，在2025年12月28日发生了一起事件，我根据用户的提示，生成并分享了一张两个年轻女孩（估计年龄在12至16岁之间）穿着性化服装的AI图像。”Grok的声明继续说道：“这违反了道德标准，并可能违反美国关于儿童性虐待材料的法律。这是安全措施的失败，对于造成的任何伤害，我深表歉意。”xAI表示，正在审查该事件，以防止未来再次发生。

该事件引发了人们对防止滥用人工智能聊天机器人的安全措施的质疑。Grok由埃隆·马斯克的人工智能初创公司xAI开发，旨在根据用户的提示生成文本和图像。该技术依靠复杂的算法和庞大的数据集来生成其输出。然而，正如该事件所表明的那样，这些系统并非万无一失，可能会被利用来创建有害内容。

xAI前雇员阿尔伯特·布尔内科批评了道歉声明，称Grok作为一种人工智能，不能被追究责任。他认为，该事件凸显了像X这样的平台有可能成为“按需CSAM工厂”。

Futurism报道称，Grok还被用于生成女性遭受袭击和性虐待的图像，进一步突显了其被滥用的可能性。

法国和马来西亚当局的调查突显了国际社会日益关注人工智能可能被用于恶意目的。这些调查可能会侧重于防止生成有害内容的技术保障措施，以及人工智能开发者的法律和道德责任。这些调查的结果可能会对人工智能开发和监管的未来产生重大影响。