由于对深度伪造（尤其是涉及妇女和儿童的性化深度伪造）的争议日益增加，埃隆·马斯克的AI聊天机器人Grok已限制了其在社交媒体平台X上的图像生成功能，并将该功能限制为付费订阅者。 此举于周五向X用户宣布，此前马斯克和X面临越来越大的压力，要求他们解决AI生成图像的滥用问题。

独立于X运行的独立Grok应用程序继续允许生成图像，而无需订阅。 X上的这种部分限制是对近期强烈反对的回应，其中包括一些国家因Grok更改在线图像（特别是去除拍摄对象衣物）的能力而发出的罚款威胁和公众批评。

深度伪造是“深度学习”和“伪造”的合成词，是指一种合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像。 这些是使用强大的AI技术（特别是深度学习算法）创建的，这些算法分析并学习来自大量图像和视频数据集的模式。 由于其潜在的滥用，包括创建诽谤内容、非自愿色情制品和传播虚假信息，该技术引起了重大的伦理问题。

欧盟委员会周一表示，它已经意识到X的Grok AI生成的“令人震惊的儿童式深度伪造”，进一步加剧了对该平台的审查。 马斯克最近表示，任何使用Grok创建非法内容的人都将面临与直接上传此类材料相同的后果。

英国也一直在敦促X采取行动，打击亲密深度伪造图像的扩散。 该事件凸显了社交媒体平台在监管AI生成内容和防止其滥用方面面临的挑战。 关于技术创新与保护个人免受AI生成操纵造成的伤害的需求之间的平衡的辩论仍在继续。 随着X应对这些复杂的伦理和法律问题，Grok的未来发展及其图像生成能力仍然不确定。