डाउनिंग स्ट्रीट स्थित 10 डाउनिंग स्ट्रीट ने उन रिपोर्टों पर अनुमोदन व्यक्त किया है जिनमें कहा गया है कि X, जिसे पहले ट्विटर के नाम से जाना जाता था, अपने Grok AI मॉडल का उपयोग करके उत्पन्न डीपफेक के मुद्दे को हल करने के लिए कदम उठा रहा है। यह कदम AI-जनित सामग्री के दुरुपयोग से गलत सूचना और दुष्प्रचार फैलाने की संभावना के बारे में बढ़ती चिंताओं के बीच आया है।

प्रधान मंत्री के एक प्रवक्ता ने कहा कि सरकार डीपफेक से जुड़े जोखिमों को कम करने के किसी भी प्रयास का स्वागत करती है, और जिम्मेदार AI विकास और तैनाती के महत्व पर जोर देती है। प्रवक्ता ने कहा, "हमने तकनीकी कंपनियों को अपने प्लेटफॉर्म और तकनीकों के दुर्भावनापूर्ण उपयोग को रोकने के लिए सक्रिय उपाय करने की आवश्यकता के बारे में स्पष्ट कर दिया है।" "हमें यह जानकर खुशी हुई है कि X इस मुद्दे को गंभीरता से ले रहा है।"

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमेंटो है, जो सिंथेटिक मीडिया है जिसमें किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी अन्य व्यक्ति की समानता से बदल दिया जाता है। यह आमतौर पर शक्तिशाली AI तकनीकों, जैसे डीप न्यूरल नेटवर्क का उपयोग करके चेहरे के भाव, भाषण पैटर्न और शारीरिक गतिविधियों का विश्लेषण और प्रतिकृति करके प्राप्त किया जाता है। परिणामी वीडियो अत्यधिक यथार्थवादी हो सकते हैं और वास्तविक फुटेज से अलग करना मुश्किल हो सकता है, जिससे दुष्प्रचार अभियानों, राजनीतिक हेरफेर और ऑनलाइन उत्पीड़न में उनके संभावित उपयोग के बारे में चिंताएं बढ़ रही हैं।

Grok, X का AI मॉडल, OpenAI के GPT श्रृंखला और Google के Gemini के समान एक बड़ा भाषा मॉडल (LLM) है। LLM को टेक्स्ट और कोड के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे मानव-गुणवत्ता वाला टेक्स्ट उत्पन्न करने, भाषाओं का अनुवाद करने और व्यापक तरीके से सवालों के जवाब देने में सक्षम होते हैं। जबकि LLM के कई लाभकारी अनुप्रयोग हैं, इनका उपयोग убедительный डीपफेक बनाने के लिए भी किया जा सकता है, जिससे इस तकनीक से जुड़े जोखिम बढ़ जाते हैं।

Grok-जनित डीपफेक को संबोधित करने के लिए X द्वारा उठाए जा रहे विशिष्ट उपायों का पूरी तरह से खुलासा नहीं किया गया है। हालांकि, उद्योग विशेषज्ञों का अनुमान है कि इनमें डीपफेक का पता लगाने और उन्हें हटाने के लिए सामग्री मॉडरेशन नीतियों को लागू करना, AI-जनित सामग्री की पहचान करने के लिए तकनीकी उपकरण विकसित करना और उपयोगकर्ताओं को डीपफेक के जोखिमों के बारे में शिक्षित करना शामिल हो सकता है।

ऑक्सफोर्ड विश्वविद्यालय में एक प्रमुख AI शोधकर्ता डॉ. एमिली कार्टर ने कहा, "चुनौती केवल डीपफेक का पता लगाना ही नहीं है, बल्कि उन्हें उनके स्रोत से जोड़ना भी है।" "यदि X Grok द्वारा उत्पन्न डीपफेक की पहचान कर सकता है और उन्हें उन उपयोगकर्ताओं तक वापस खोज सकता है जिन्होंने उन्हें बनाया है, तो यह एक महत्वपूर्ण कदम होगा।"

डीपफेक के उदय ने AI तकनीकों के अधिक विनियमन की मांग को प्रेरित किया है। दुनिया भर की सरकारें AI के लाभों को इसके संभावित नुकसान से बचाने की आवश्यकता के साथ संतुलित करने के तरीके से जूझ रही हैं। यूरोपीय संघ वर्तमान में AI अधिनियम पर काम कर रहा है, जो कानून का एक व्यापक टुकड़ा है जो AI प्रणालियों के विकास और तैनाती के लिए नियम स्थापित करेगा, जिसमें डीपफेक बनाने के लिए उपयोग की जाने वाली प्रणालियाँ भी शामिल हैं।

Grok डीपफेक को संबोधित करने की अपनी योजनाओं के बारे में X ने अभी तक कोई आधिकारिक बयान जारी नहीं किया है। हालांकि, कंपनी आने वाले हफ्तों में अधिक जानकारी प्रदान करने की उम्मीद है। X के प्रयासों की प्रभावशीलता पर नीति निर्माताओं, शोधकर्ताओं और जनता द्वारा समान रूप से बारीकी से नजर रखी जाएगी, क्योंकि AI के युग में डीपफेक के खिलाफ लड़ाई एक महत्वपूर्ण चुनौती बनी हुई है।