डाउनिंग स्ट्रीट ने उन रिपोर्टों पर अनुमोदन व्यक्त किया है जो संकेत करती हैं कि X, जिसे पहले ट्विटर के नाम से जाना जाता था, ग्रोोक (Grok) का उपयोग करके उत्पन्न डीपफेक की समस्या को हल करने के लिए कदम उठा रहा है, जो इसका कृत्रिम बुद्धिमत्ता मॉडल है। यह कदम एआई-जनित सामग्री के संभावित दुरुपयोग के बारे में बढ़ती चिंताओं के बीच उठाया गया है ताकि गलत सूचना और प्रचार फैलाया जा सके।

सरकार की सकारात्मक प्रतिक्रिया जिम्मेदार एआई विकास और तैनाती के लिए एक व्यापक प्रयास को दर्शाती है। एक सरकारी प्रवक्ता ने कहा, "हम एआई-जनित डीपफेक से जुड़े जोखिमों को कम करने के किसी भी प्रयास का स्वागत करते हैं।" "यह महत्वपूर्ण है कि तकनीकी कंपनियां यह सुनिश्चित करने के लिए सक्रिय उपाय करें कि उनकी तकनीकों का उपयोग दुर्भावनापूर्ण उद्देश्यों के लिए नहीं किया जाता है।"

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमेंटो (portmanteau) है, सिंथेटिक मीडिया है जिसमें एक मौजूदा छवि या वीडियो में एक व्यक्ति को किसी और की समानता से बदल दिया जाता है। X का बड़ा भाषा मॉडल, ग्रोोक (Grok), यथार्थवादी पाठ और चित्र उत्पन्न करने में सक्षम है, जिससे चिंताएं बढ़ रही हैं कि इसका उपयोग आश्वस्त करने वाली लेकिन मनगढ़ंत सामग्री बनाने के लिए किया जा सकता है। यह तकनीक मौजूदा डेटा से पैटर्न सीखने और दोहराने के लिए जेनरेटिव एडवर्सैरियल नेटवर्क (GANs) सहित परिष्कृत एल्गोरिदम पर निर्भर करती है। GANs में दो न्यूरल नेटवर्क, एक जनरेटर और एक डिस्क्रिमिनेटर शामिल होते हैं, जो तेजी से यथार्थवादी आउटपुट का उत्पादन करने के लिए एक-दूसरे के खिलाफ प्रतिस्पर्धा करते हैं।

ग्रोोक (Grok) द्वारा उत्पन्न डीपफेक का मुकाबला करने के लिए X द्वारा कथित तौर पर कार्यान्वित किए जा रहे विशिष्ट उपायों का पूरी तरह से खुलासा नहीं किया गया है। हालांकि, उद्योग विशेषज्ञों का अनुमान है कि उनमें एआई-जनित सामग्री को वॉटरमार्क करना, डीपफेक की पहचान करने के लिए डिटेक्शन टूल विकसित करना और सख्त सामग्री मॉडरेशन नीतियों को लागू करना शामिल हो सकता है। वॉटरमार्किंग में यह इंगित करने के लिए कि इसे एआई द्वारा बनाया गया था, एक छवि या वीडियो में एक सूक्ष्म, अक्सर अगोचर, सिग्नल एम्बेड करना शामिल है। डिटेक्शन टूल मीडिया का विश्लेषण करने और हेरफेर के संकेतों की पहचान करने के लिए मशीन लर्निंग एल्गोरिदम का उपयोग करते हैं।

डीपफेक का उदय डिजिटल युग में विश्वास और विश्वसनीयता के लिए एक महत्वपूर्ण चुनौती है। विशेषज्ञों का कहना है कि इन मनगढ़ंत वीडियो और छवियों का उपयोग जनमत में हेरफेर करने, प्रतिष्ठा को नुकसान पहुंचाने और यहां तक कि हिंसा भड़काने के लिए किया जा सकता है। चुनावों और राजनीतिक विमर्श पर संभावित प्रभाव विशेष रूप से चिंताजनक है।

अन्य सोशल मीडिया प्लेटफॉर्म और एआई डेवलपर भी डीपफेक के मुद्दे से जूझ रहे हैं। मेटा और गूगल जैसी कंपनियों ने अपने प्लेटफॉर्म से हेरफेर किए गए मीडिया का पता लगाने और हटाने के लिए अनुसंधान और विकास में भारी निवेश किया है। एआई पर भागीदारी (Partnership on AI), तकनीकी कंपनियों, शिक्षाविदों और नागरिक समाज संगठनों का एक संघ है, जो एआई विकास के लिए नैतिक दिशानिर्देश और सर्वोत्तम प्रथाओं को विकसित करने के लिए काम कर रहा है।

ग्रोोक (Grok) डीपफेक को संबोधित करने के लिए X के प्रयासों की वर्तमान स्थिति अस्पष्ट बनी हुई है। आने वाले हफ्तों में कंपनी द्वारा और विवरण जारी किए जाने की उम्मीद है। सरकार ने संकेत दिया है कि वह स्थिति की बारीकी से निगरानी करना जारी रखेगी और एआई प्रौद्योगिकियों के जिम्मेदार विकास और तैनाती को सुनिश्चित करने के लिए तकनीकी कंपनियों के साथ काम करेगी।