由于对深度伪造技术的担忧日益加剧，尤其是那些涉及女性和儿童的性化深度伪造内容，埃隆·马斯克的AI聊天机器人Grok已限制了社交媒体平台X上的图像生成功能，仅限付费订阅者使用。这一举措于周五向X用户宣布，此前，马斯克和X面临越来越大的压力，要求解决AI工具的滥用问题。

独立于X运行的独立Grok应用程序，仍然允许所有用户生成图像，无论是否订阅。在此部分限制之前，马斯克因Grok能够更改在线图像（包括移除人物衣物）而面临来自多个国家的潜在罚款和公众批评。

深度伪造，即AI生成的媒体，能够令人信服地描绘某人做或说他们没有做或说的事情，依赖于复杂的机器学习算法。生成对抗网络（GAN）经常被使用，它将两个神经网络相互对抗：一个生成虚假内容，而另一个试图检测它。这种迭代过程导致越来越逼真的伪造品。像Grok这样的AI工具的可访问性降低了创建深度伪造的门槛，引发了人们对其恶意使用的潜在担忧，包括诽谤、骚扰和传播虚假信息。

欧盟委员会周一表示，正在调查Grok生成的“令人震惊的儿童式深度伪造”案例。在广泛谴责声中，埃隆·马斯克最近表示，任何使用Grok创建非法内容的人都将面临与直接上传此类材料相同的后果。

英国也敦促X采取行动，打击亲密深度伪造图像的扩散。AI技术的快速发展需要采取积极主动的方式进行监管和内容审核，以减轻与深度伪造相关的风险。目前的状况凸显了在AI的开发和部署中，平衡创新与伦理考量所面临的持续挑战。随着该公司应对这些复杂问题，Grok在X和独立应用程序上的图像生成功能的未来仍然不确定。