डाउनिंग स्ट्रीट स्थित नंबर 10 ने उन रिपोर्टों को स्वीकार किया है जिनमें कहा गया है कि X, जिसे पहले ट्विटर के नाम से जाना जाता था, ग्रोोक (Grok) का उपयोग करके बनाए गए डीपफेक के मुद्दे को हल करने के लिए कदम उठा रहा है, ग्रोोक उसका कृत्रिम बुद्धिमत्ता मॉडल है। यह कदम एआई-जनित सामग्री के दुरुपयोग की संभावना के बारे में बढ़ती चिंताओं के बीच उठाया गया है, जिसका उपयोग गलत सूचना फैलाने और जनमत को प्रभावित करने में किया जा सकता है।

प्रधान मंत्री कार्यालय के एक प्रवक्ता ने कहा कि सरकार डीपफेक से जुड़े जोखिमों को कम करने के लिए सोशल मीडिया प्लेटफॉर्म द्वारा किए गए किसी भी प्रयास का स्वागत करती है। प्रवक्ता ने कहा, "हमने यह स्पष्ट कर दिया है कि टेक कंपनियों को अपने प्लेटफॉर्म पर होस्ट की गई सामग्री की जिम्मेदारी लेनी चाहिए, खासकर जब यह एआई-जनित सामग्री की बात आती है जिसका उपयोग धोखा देने या गुमराह करने के लिए किया जा सकता है।"

डीपफेक सिंथेटिक मीडिया हैं जिनमें किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी अन्य व्यक्ति की समानता से बदल दिया जाता है। यह आमतौर पर परिष्कृत मशीन लर्निंग तकनीकों, विशेष रूप से डीप लर्निंग एल्गोरिदम का उपयोग करके प्राप्त किया जाता है, इसलिए इसका नाम डीपफेक है। ग्रोोक, X का एआई मॉडल, ओपनएआई के जीपीटी श्रृंखला या गूगल के जेमिनी के समान एक बड़ा भाषा मॉडल (एलएलएम) है। एलएलएम को भारी मात्रा में टेक्स्ट डेटा पर प्रशिक्षित किया जाता है, जिससे वे मानव-जैसा टेक्स्ट उत्पन्न करने, भाषाओं का अनुवाद करने और डीपफेक अनुप्रयोगों के लिए अंतर्निहित टेक्स्ट सहित विभिन्न प्रकार की रचनात्मक सामग्री बनाने में सक्षम होते हैं।

ग्रोोक-जनित डीपफेक का मुकाबला करने के लिए X द्वारा कार्यान्वित किए जा रहे विशिष्ट उपायों का पूरी तरह से खुलासा नहीं किया गया है। हालांकि, उद्योग विश्लेषकों का अनुमान है कि इनमें उन्नत सामग्री पहचान एल्गोरिदम, सख्त उपयोगकर्ता सत्यापन प्रक्रियाएं और एआई-जनित सामग्री के लिए स्पष्ट लेबलिंग नीतियां शामिल हो सकती हैं। सामग्री पहचान एल्गोरिदम मीडिया में हेरफेर के संकेतों का विश्लेषण करते हैं, जैसे कि प्रकाश में असंगतता, अप्राकृतिक चेहरे की हरकतें, या डीपफेक निर्माण प्रक्रिया के दौरान पेश किए गए आर्टिफैक्ट।

ग्रोोक जैसे सुलभ एआई उपकरणों के उदय ने डीपफेक बनाने के लिए प्रवेश बाधा को कम कर दिया है, जिससे दुर्भावनापूर्ण अभिनेताओं के लिए आश्वस्त करने वाली लेकिन मनगढ़ंत सामग्री का उत्पादन और प्रसार करना आसान हो गया है। यह सूचना पारिस्थितिकी तंत्र के लिए एक महत्वपूर्ण चुनौती है, जो वैध समाचार स्रोतों और संस्थानों में विश्वास को संभावित रूप से कमजोर कर सकती है।

यूके सरकार सक्रिय रूप से एआई के लिए नियामक ढांचे पर विचार कर रही है, जिसमें डीपफेक से जुड़े जोखिमों को दूर करने के उपाय भी शामिल हैं। ऑनलाइन सुरक्षा अधिनियम, जो हाल ही में लागू हुआ है, सोशल मीडिया प्लेटफॉर्म पर उपयोगकर्ताओं को अवैध और हानिकारक सामग्री से बचाने के लिए एक कर्तव्य का पालन करने का दायित्व डालता है, जिसे संभावित रूप से कुछ प्रकार के डीपफेक को शामिल करने के लिए व्याख्यायित किया जा सकता है।

X ने अभी तक अपनी योजनाओं का विवरण देते हुए कोई आधिकारिक बयान जारी नहीं किया है। कंपनी से आने वाले हफ्तों में ग्रोोक से संबंधित डीपफेक से निपटने के लिए अपने दृष्टिकोण पर अधिक जानकारी प्रदान करने की उम्मीद है। X के उपायों की प्रभावशीलता पर नीति निर्माताओं, नियामकों और जनता द्वारा बारीकी से नजर रखी जाएगी, क्योंकि एआई के जिम्मेदार विकास और तैनाती पर बहस जारी है।