天主教神父兼播客主讲人迈克·施密茨神父于 11 月告知其在 YouTube 上超过 120 万的订阅者，人工智能深度伪造正在冒充他，试图诈骗他们。施密茨警告他的追随者，他们“不能总是相信从他嘴里说出的话”，因为有时那真的不是他的嘴或他的话。

这些深度伪造视频以数字方式捏造了一个施密茨的版本，诱使人们点击链接，以换取祈祷和祝福。在一个例子中，假的施密茨，身后隐约可见一个沙漏，敦促观众“迅速行动，因为发送祈祷的名额已经快用完了，另一個假的施密茨，身后也隐约可见一个沙漏说道。下一次旅行将在四个月后进行。” 真正的施密茨位于明尼苏达州德卢斯，他在公共服务公告中展示了人工智能生成的模仿示例，突出了声音中微妙的机器人特质。

深度伪造是一种合成媒体，其中现有图像或视频中的人物被人工智能替换为其他人的肖像。这些人工智能生成的伪造品变得越来越复杂，使普通人难以区分它们与真实内容。该技术依赖于机器学习算法，特别是深度学习，来分析和复制一个人的面部表情、声音和举止。这使得恶意行为者能够创建令人信服的虚假视频和录音，用于各种欺骗目的，包括欺诈、虚假信息宣传和身份盗窃。

深度伪造技术的兴起对社会构成了重大挑战，削弱了对数字媒体的信任，并引发了对操纵可能性的担忧。专家警告说，深度伪造创作工具日益普及可能会导致针对弱势群体的诈骗活动激增。

施密茨承认人们难以辨别真假。“我看着它们会说‘这太荒谬了，我永远不会那样说，’”施密茨说。“但人们不一定能分辨出来。这是一个问题。”

执法机构和科技公司正在努力开发检测和打击深度伪造的方法。这些努力包括创建可以识别合成媒体中细微不一致之处的算法，以及对公众进行有关深度伪造相关风险的教育。