أخبر الأب مايك شميتز، الكاهن الكاثوليكي وصاحب البودكاست، جمهوره على يوتيوب الذي يزيد عن 1.2 مليون مشترك في نوفمبر/تشرين الثاني أن تقنية التزييف العميق بالذكاء الاصطناعي كانت تنتحل شخصيته في محاولة لخداعهم. وحذر شميتز متابعيه من أنهم "لا يستطيعون الوثوق دائمًا بالكلمات التي تخرج من فمه"، لأنها في بعض الأحيان لم تكن فمه أو كلماته حقًا.

عرضت عمليات التزييف العميق نسخة مُصنَّعة رقميًا من شميتز يطلب فيها الصلوات والبركات مقابل النقر على رابط. في إحدى الحالات، حث شميتز المزيف، مع وجود ساعة رملية تلوح في الأفق خلفه، المشاهدين على "التصرف بسرعة، لأن أماكن إرسال الصلوات بدأت تنفد بالفعل، وقال شميتز مزيف آخر مع وجود ساعة رملية تلوح في الأفق خلفه. والرحلة التالية ستتم فقط بعد أربعة أشهر". الأب شميتز الحقيقي، ومقره في دولوث، مينيسوتا، أدرج أمثلة على عمليات انتحال الشخصية التي تم إنشاؤها بواسطة الذكاء الاصطناعي في إعلانه الخدمي العام، مسلطًا الضوء على الجودة الروبوتية الدقيقة للصوت.

التزييف العميق هو وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر باستخدام الذكاء الاصطناعي. أصبحت هذه التزويرات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي متطورة بشكل متزايد، مما يجعل من الصعب على الشخص العادي تمييزها عن المحتوى الأصيل. تعتمد هذه التقنية على خوارزميات التعلم الآلي، وتحديدًا التعلم العميق، لتحليل وتكرار تعابير وجه الشخص وصوته وطريقة تصرفه. وهذا يسمح للجهات الخبيثة بإنشاء مقاطع فيديو وتسجيلات صوتية مزيفة مقنعة لأغراض خداعية مختلفة، بما في ذلك الاحتيال وحملات التضليل وسرقة الهوية.

يشكل صعود تكنولوجيا التزييف العميق تحديًا كبيرًا للمجتمع، حيث يؤدي إلى تآكل الثقة في الوسائط الرقمية ويثير مخاوف بشأن احتمالية التلاعب. يحذر الخبراء من أن زيادة إمكانية الوصول إلى أدوات إنشاء التزييف العميق يمكن أن تؤدي إلى انتشار عمليات الاحتيال التي تستهدف الفئات السكانية الضعيفة.

أقر شميتز بالصعوبة التي يواجهها الناس في تمييز الحقيقي من المزيف. قال شميتز: "يمكنني أن أنظر إليهم وأقول "هذا سخيف، لن أقول ذلك أبدًا". "لكن الناس لا يستطيعون بالضرورة معرفة ذلك. هذه مشكلة."

تعمل وكالات إنفاذ القانون وشركات التكنولوجيا على تطوير طرق للكشف عن التزييف العميق ومكافحته. وتشمل هذه الجهود إنشاء خوارزميات يمكنها تحديد التناقضات الدقيقة في الوسائط الاصطناعية وتثقيف الجمهور حول المخاطر المرتبطة بالتزييف العميق.