डाउनिंग स्ट्रीट स्थित 10 डाउनिंग स्ट्रीट ने उन रिपोर्टों पर अनुमोदन व्यक्त किया है जो दर्शाती हैं कि X, जिसे पहले ट्विटर के नाम से जाना जाता था, ग्रोक द्वारा उत्पन्न डीपफेक के मुद्दे को संबोधित करने के लिए कदम उठा रहा है, जो इसका कृत्रिम बुद्धिमत्ता मॉडल है। यह कदम एआई-जनित सामग्री के दुरुपयोग की संभावना के बारे में बढ़ती चिंताओं के बीच आया है ताकि गलत सूचना और दुष्प्रचार फैलाया जा सके।

प्रधान मंत्री के एक प्रवक्ता ने कहा कि सरकार डीपफेक तकनीक से जुड़े जोखिमों को कम करने के किसी भी प्रयास का स्वागत करती है। प्रवक्ता ने कहा, "हम यह स्पष्ट कर चुके हैं कि टेक कंपनियों को अपने प्लेटफॉर्म पर होस्ट की गई सामग्री की जिम्मेदारी लेनी चाहिए, खासकर जब यह एआई-जनित सामग्री की बात आती है।" "हमें इस बात से प्रोत्साहन मिला है कि X इस मुद्दे को गंभीरता से ले रहा है।"

डीपफेक सिंथेटिक मीडिया हैं जिसमें किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी और की समानता से बदल दिया जाता है। यह आमतौर पर परिष्कृत मशीन लर्निंग तकनीकों, विशेष रूप से डीप लर्निंग एल्गोरिदम का उपयोग करके प्राप्त किया जाता है, इसलिए इसका नाम "डीपफेक" है। X का AI मॉडल, ग्रोक, टेक्स्ट और इमेज उत्पन्न करने में सक्षम है, जिससे चिंताएं बढ़ रही हैं कि इसका उपयोग बड़े पैमाने पर यथार्थवादी दिखने वाले डीपफेक बनाने के लिए किया जा सकता है।

डीपफेक तकनीक का उद्योग पर महत्वपूर्ण प्रभाव पड़ता है। विशेषज्ञों का चेतावनी देना है कि डीपफेक मीडिया में विश्वास को खत्म कर सकते हैं, जनमत कोmanipulate कर सकते हैं और यहां तक कि वित्तीय धोखाधड़ी या राजनीतिक तोड़फोड़ जैसे दुर्भावनापूर्ण उद्देश्यों के लिए भी इस्तेमाल किए जा सकते हैं। सुलभ एआई उपकरणों के प्रसार ने सीमित तकनीकी विशेषज्ञता वाले व्यक्तियों के लिए भी убедительный डीपफेक बनाना आसान बना दिया है, जिससे नुकसान की संभावना बढ़ गई है।

जबकि ग्रोक-जनित डीपफेक को संबोधित करने के लिए X के विशिष्ट उपायों का विवरण सीमित है, रिपोर्टों से पता चलता है कि कंपनी कई विकल्पों की खोज कर रही है, जिसमें एआई-जनित सामग्री को वॉटरमार्क करना, डीपफेक को हटाने के लिए सामग्री मॉडरेशन नीतियों को लागू करना जो उसकी सेवा की शर्तों का उल्लंघन करते हैं, और सिंथेटिक मीडिया की पहचान करने और उसे चिह्नित करने के लिए पहचान उपकरण विकसित करना शामिल है।

ऑक्सफोर्ड विश्वविद्यालय में एक प्रमुख एआई शोधकर्ता डॉ. अन्या शर्मा ने कहा, "चुनौती केवल डीपफेक का पता लगाना नहीं है, बल्कि उन्हें उनके स्रोत से जोड़ना भी है।" "अगर X प्रभावी ढंग से डीपफेक को ग्रोक से जोड़ सकता है, तो यह जवाबदेही की दिशा में एक महत्वपूर्ण कदम होगा।"

X ने अभी तक अपनी योजनाओं पर कोई औपचारिक बयान जारी नहीं किया है, लेकिन मामले से परिचित सूत्रों का संकेत है कि आने वाले हफ्तों में एक घोषणा की उम्मीद है। कंपनी कथित तौर पर डीपफेक खतरे को संबोधित करने के लिए एक व्यापक दृष्टिकोण विकसित करने के लिए सरकारी नियामकों और उद्योग भागीदारों के साथ मिलकर काम कर रही है। AI विनियमन पर बहस तेज होने के साथ ही X के उपायों की प्रभावशीलता पर नीति निर्माताओं और जनता द्वारा समान रूप से बारीकी से नजर रखी जाएगी।