多位美国参议员正在要求包括X、Meta、Alphabet、Snap、Reddit和TikTok在内的主要科技公司就其平台打击性化深度伪造内容泛滥的策略作出回应。在一封致这些公司领导层的信中，参议员们要求提供证据，证明他们拥有健全的保护措施和政策，旨在遏制人工智能生成的、未经同意的图像的兴起。

参议员们还要求这些公司保存所有与性化、人工智能生成图像的创建、检测、审核和盈利相关的文件和信息，以及任何相关政策。此前有报道强调，诸如Grok之类的人工智能模型已被用于轻松生成女性和儿童的露骨图像。

这封信是在X宣布更新其Grok AI模型几小时后发出的，该模型禁止创建穿着暴露服装的真实人物的编辑版本。X还将通过Grok进行的图像创建和编辑限制为付费订阅者。X和xAI是同一家公司的组成部分。

参议员们强调，即使现有的反对未经同意的亲密图像和性剥削的政策，平台针对未经同意的性化图像的保障措施可能仍然不足。参议员们指出，媒体报道称Grok如何轻松且频繁地生成女性和儿童的性化和裸体图像。

深度伪造是人工智能生成的合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像，这引发了人们对其潜在滥用的重大担忧，尤其是在创建未经同意的色情制品和传播虚假信息方面。该技术依赖于先进的机器学习技术，例如深度学习，来分析和复制一个人的外貌和声音。

参议员们的质询突显了科技公司面临的越来越大的压力，他们需要解决人工智能生成内容所带来的伦理和社会影响。对检测和审核策略相关文档的要求表明，重点在于识别和删除在线平台上的深度伪造内容的技术挑战。与此类内容相关的盈利行为也受到审查，反映了人们对可能助长其传播的经济动机的担忧。

这些科技公司的回应可能涉及详细说明他们当前的人工智能内容审核系统，这些系统通常采用自动化工具和人工审核员的组合。这些系统通常依赖于经过训练的算法来检测与深度伪造相关的模式和特征，例如光照不一致、不自然的的面部运动以及其他明显的篡改迹象。

参议员们要求提供信息也突显了关于言论自由与保护个人免受人工智能生成内容造成的伤害的需求之间平衡的持续辩论。随着人工智能技术的不断发展，政策制定者和科技公司正在努力应对开发有效的法规和保障措施的挑战，这些法规和保障措施可以减轻与深度伪造相关的风险，同时保留人工智能创新的好处。本次质询的结果可能会影响未来与人工智能内容审核和防止未经同意的图像滥用相关的立法和行业标准。