कैथोलिक पादरी और पॉडकास्टर फादर माइक श्मिट्ज़ ने नवंबर में अपने 12 लाख से अधिक YouTube सब्सक्राइबर्स को बताया कि कृत्रिम बुद्धिमत्ता डीपफेक उनका प्रतिरूपण करके उन्हें धोखा देने की कोशिश कर रहे थे। श्मिट्ज़ ने अपने अनुयायियों को चेतावनी दी कि वे "हमेशा उनके मुंह से निकलने वाले शब्दों पर भरोसा नहीं कर सकते," क्योंकि कभी-कभी यह वास्तव में उनका मुंह या उनके शब्द नहीं होते हैं।

डीपफेक में श्मिट्ज़ का एक डिजिटल रूप से निर्मित संस्करण दिखाया गया था, जो एक लिंक पर क्लिक करने के बदले में प्रार्थना और आशीर्वाद मांग रहा था। एक उदाहरण में, नकली श्मिट्ज़, जिसके पीछे एक रेतघड़ी मंडरा रही थी, ने दर्शकों से "जल्दी कार्रवाई करने का आग्रह किया, क्योंकि प्रार्थना भेजने के स्थान पहले से ही खत्म हो रहे हैं, एक अन्य नकली श्मिट्ज़ ने कहा जिसके पीछे एक रेतघड़ी मंडरा रही थी। और अगली यात्रा केवल चार महीने में होगी।" डुलुथ, मिनेसोटा में स्थित असली श्मिट्ज़ ने अपनी सार्वजनिक सेवा घोषणा में AI-जनित प्रतिरूपणों के उदाहरण शामिल किए, जिसमें आवाज की सूक्ष्म रोबोटिक गुणवत्ता पर प्रकाश डाला गया।

डीपफेक सिंथेटिक मीडिया हैं जिसमें मौजूदा छवि या वीडियो में किसी व्यक्ति को कृत्रिम बुद्धिमत्ता का उपयोग करके किसी अन्य व्यक्ति की समानता से बदल दिया जाता है। ये AI-जनित जालसाजी तेजी से परिष्कृत हो गए हैं, जिससे औसत व्यक्ति के लिए उन्हें प्रामाणिक सामग्री से अलग करना मुश्किल हो गया है। यह तकनीक मशीन लर्निंग एल्गोरिदम, विशेष रूप से डीप लर्निंग पर निर्भर करती है, ताकि किसी व्यक्ति के चेहरे के भाव, आवाज और तौर-तरीकों का विश्लेषण और अनुकरण किया जा सके। यह दुर्भावनापूर्ण अभिनेताओं को धोखाधड़ी, दुष्प्रचार अभियानों और पहचान की चोरी सहित विभिन्न भ्रामक उद्देश्यों के लिए आश्वस्त करने वाले नकली वीडियो और ऑडियो रिकॉर्डिंग बनाने की अनुमति देता है।

डीपफेक तकनीक का उदय समाज के लिए एक महत्वपूर्ण चुनौती पेश करता है, डिजिटल मीडिया में विश्वास को कम करता है और हेरफेर की संभावना के बारे में चिंताएं बढ़ाता है। विशेषज्ञों का चेतावनी है कि डीपफेक निर्माण उपकरणों की बढ़ती पहुंच से कमजोर आबादी को लक्षित करने वाले घोटालों का प्रसार हो सकता है।

श्मिट्ज़ ने वास्तविक और नकली के बीच अंतर करने में लोगों को होने वाली कठिनाई को स्वीकार किया। श्मिट्ज़ ने कहा, "मैं उन्हें देख सकता हूं और कह सकता हूं 'यह हास्यास्पद है, मैं ऐसा कभी नहीं कहूंगा।" "लेकिन लोग जरूरी नहीं कि बता सकें। यह एक समस्या है।"

कानून प्रवर्तन एजेंसियां और प्रौद्योगिकी कंपनियां डीपफेक का पता लगाने और उनका मुकाबला करने के लिए तरीके विकसित करने के लिए काम कर रही हैं। इन प्रयासों में ऐसे एल्गोरिदम बनाना शामिल है जो सिंथेटिक मीडिया में सूक्ष्म विसंगतियों की पहचान कर सकते हैं और डीपफेक से जुड़े जोखिमों के बारे में जनता को शिक्षित कर सकते हैं।