डाउनिंग स्ट्रीट स्थित 10 डाउनिंग स्ट्रीट ने उन रिपोर्टों पर अनुमोदन व्यक्त किया है जो दर्शाती हैं कि X, जिसे पहले ट्विटर के नाम से जाना जाता था, ग्रोोक (Grok) का उपयोग करके उत्पन्न डीपफेक की समस्या को दूर करने के लिए कदम उठा रहा है, जो इसका कृत्रिम बुद्धिमत्ता मॉडल है। यह कदम एआई-जनित सामग्री के संभावित दुरुपयोग के बारे में बढ़ती चिंताओं के बीच उठाया गया है ताकि गलत सूचना फैलाई जा सके और जनमत को प्रभावित किया जा सके।

प्रधान मंत्री के एक प्रवक्ता ने कहा कि सरकार एआई से जुड़े जोखिमों को कम करने के लिए प्रौद्योगिकी कंपनियों के किसी भी प्रयास का स्वागत करती है, खासकर डीपफेक के संदर्भ में। प्रवक्ता ने कहा, "हम जिम्मेदार एआई विकास और तैनाती की आवश्यकता के बारे में स्पष्ट रहे हैं।" "यह देखकर उत्साहजनक है कि X जैसे प्लेटफ़ॉर्म दुरुपयोग की संभावना को दूर करने के लिए सक्रिय कदम उठा रहे हैं।"

डीपफेक, जो सिंथेटिक मीडिया हैं जिनमें किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी और की समानता से बदल दिया जाता है, परिष्कृत एआई तकनीकों का उपयोग करके बनाए जाते हैं, जिसमें अक्सर जेनरेटिव एडवर्सैरियल नेटवर्क (GAN) शामिल होते हैं। GAN में दो न्यूरल नेटवर्क होते हैं, एक जनरेटर और एक डिस्क्रिमिनेटर, जो एक साथ काम करते हैं। जनरेटर सिंथेटिक सामग्री बनाता है, जबकि डिस्क्रिमिनेटर वास्तविक और नकली सामग्री के बीच अंतर करने का प्रयास करता है। इस पुनरावृत्तीय प्रक्रिया के माध्यम से, जनरेटर तेजी से यथार्थवादी डीपफेक का उत्पादन करना सीखता है।

X का ग्रोोक (Grok), एक एआई मॉडल जिसे प्राकृतिक भाषा प्रसंस्करण और पीढ़ी के लिए डिज़ाइन किया गया है, का उपयोग संभावित रूप से यथार्थवादी पाठ-आधारित डीपफेक बनाने या वीडियो डीपफेक के लिए स्क्रिप्ट उत्पन्न करने के लिए किया जा सकता है। ग्रोोक (Grok) से संबंधित डीपफेक को संबोधित करने के लिए X द्वारा उठाए जा रहे विशिष्ट उपायों का पूरी तरह से खुलासा नहीं किया गया है, लेकिन उद्योग विश्लेषकों का अनुमान है कि इसमें सामग्री मॉडरेशन नीतियों को लागू करना, डिटेक्शन टूल विकसित करना और एआई-जनित सामग्री को वॉटरमार्क करना शामिल हो सकता है।

डीपफेक का उदय सूचना पारिस्थितिकी तंत्र के लिए एक महत्वपूर्ण चुनौती है। विशेषज्ञों का चेतावनी है कि इन हेरफेर किए गए मीडिया का उपयोग प्रतिष्ठा को नुकसान पहुंचाने, वैमनस्य बोने और यहां तक कि चुनावों को प्रभावित करने के लिए किया जा सकता है। प्रौद्योगिकी की बढ़ती पहुंच और परिष्कार वास्तविक और मनगढ़ंत सामग्री के बीच अंतर करना मुश्किल बनाते हैं, जिससे मीडिया और संस्थानों में विश्वास कम होता है।

अन्य सोशल मीडिया प्लेटफॉर्म और प्रौद्योगिकी कंपनियां भी डीपफेक समस्या से जूझ रही हैं। कई एआई-संचालित डिटेक्शन टूल में निवेश कर रहे हैं जो सूक्ष्म विसंगतियों या कलाकृतियों के आधार पर हेरफेर किए गए मीडिया की पहचान कर सकते हैं। कुछ सामग्री की प्रामाणिकता को सत्यापित करने के लिए ब्लॉकचेन तकनीक के उपयोग की भी खोज कर रहे हैं।

यूके सरकार एआई के लिए नियामक ढांचे पर सक्रिय रूप से विचार कर रही है, जिसमें डीपफेक से जुड़े जोखिमों को दूर करने के उपाय भी शामिल हैं। ऑनलाइन सुरक्षा अधिनियम, जो हाल ही में लागू हुआ, में हेरफेर किए गए मीडिया सहित हानिकारक ऑनलाइन सामग्री से निपटने के प्रावधान शामिल हैं।

ग्रोोक (Grok) डीपफेक को संबोधित करने के लिए X के प्रयासों की वर्तमान स्थिति अस्पष्ट बनी हुई है। कंपनी द्वारा आने वाले हफ्तों में और विवरण जारी किए जाने की उम्मीद है। सरकारी प्रवक्ता ने एआई द्वारा उत्पन्न चुनौतियों का समाधान करने और इसके जिम्मेदार विकास और उपयोग को सुनिश्चित करने के लिए सरकार, उद्योग और नागरिक समाज के बीच चल रहे सहयोग के महत्व को दोहराया।