नंबर 10 डाउनिंग स्ट्रीट ने उन रिपोर्टों को स्वीकार किया है जिनमें कहा गया है कि X, जिसे पहले ट्विटर के नाम से जाना जाता था, ग्रोक का उपयोग करके उत्पन्न डीपफेक के प्रसार को रोकने के लिए कदम उठा रहा है, जो उसका कृत्रिम बुद्धिमत्ता मॉडल है। सरकार की सकारात्मक प्रतिक्रिया AI-जनित सामग्री के संभावित दुरुपयोग और सार्वजनिक चर्चा पर इसके प्रभाव के बारे में बढ़ती चिंता का संकेत है।

X द्वारा यह कदम AI मॉडल की बढ़ती जांच के बाद उठाया गया है जो अत्यधिक यथार्थवादी और संभावित रूप से भ्रामक ऑडियो और वीडियो सामग्री का उत्पादन करने में सक्षम हैं। डीपफेक, परिष्कृत मशीन लर्निंग तकनीकों का उपयोग करके बनाए गए हैं, जो व्यक्तियों की आवाज़ और समानता की विश्वसनीय रूप से नकल कर सकते हैं, जिससे दुष्प्रचार अभियानों और प्रतिष्ठा को नुकसान पहुंचने की चिंता बढ़ जाती है। X का AI मॉडल, ग्रोक, एक बड़ा भाषा मॉडल (LLM) है जिसे मानव-गुणवत्ता वाला पाठ उत्पन्न करने और संभावित रूप से, यदि ठीक से निगरानी और नियंत्रण न किया जाए तो डीपफेक सामग्री के निर्माण में योगदान करने के लिए डिज़ाइन किया गया है।

एक सरकारी प्रवक्ता ने कहा, "हम AI-जनित डीपफेक से जुड़े जोखिमों को कम करने के किसी भी प्रयास का स्वागत करते हैं।" "यह महत्वपूर्ण है कि प्रौद्योगिकी कंपनियां यह सुनिश्चित करने की जिम्मेदारी लें कि उनके प्लेटफार्मों का उपयोग गलत सूचना या दुर्भावनापूर्ण सामग्री फैलाने के लिए नहीं किया जाता है।"

डीपफेक निर्माण के पीछे की तकनीकी प्रक्रिया में आम तौर पर एक लक्षित व्यक्ति की छवियों और ऑडियो रिकॉर्डिंग के एक विशाल डेटासेट पर एक न्यूरल नेटवर्क को प्रशिक्षित करना शामिल होता है। यह AI को व्यक्ति की अनूठी विशेषताओं को सीखने और फिर उन्हें नई, मनगढ़ंत सामग्री पर लागू करने की अनुमति देता है। जेनरेटिव एडवर्सैरियल नेटवर्क (GAN) डीपफेक निर्माण में उपयोग किया जाने वाला एक सामान्य आर्किटेक्चर है, जो दो न्यूरल नेटवर्क को एक-दूसरे के खिलाफ खड़ा करता है - एक नकली सामग्री उत्पन्न करता है और दूसरा इसे वास्तविक सामग्री से अलग करने का प्रयास करता है - जब तक कि जनरेटर अत्यधिक убедительные नकली चीजें उत्पन्न नहीं करता है।

सुलभ AI उपकरणों के उदय ने डीपफेक निर्माण का लोकतंत्रीकरण कर दिया है, जिससे सीमित तकनीकी विशेषज्ञता वाले व्यक्तियों के लिए भी убедительные नकली सामग्री उत्पन्न करना आसान हो गया है। इसके विभिन्न क्षेत्रों, जिनमें राजनीति, मीडिया और मनोरंजन शामिल हैं, के लिए महत्वपूर्ण निहितार्थ हैं। विशेषज्ञों का कहना है कि डीपफेक का उपयोग चुनावों में हेरफेर करने, झूठी कहानियाँ फैलाने या व्यक्तियों की प्रतिष्ठा को नुकसान पहुंचाने के लिए किया जा सकता है।

X ने अभी तक ग्रोक से संबंधित डीपफेक को संबोधित करने के लिए कार्यान्वित किए जा रहे उपायों के बारे में विशिष्ट विवरण जारी नहीं किए हैं। हालाँकि, संभावित समाधानों में बेहतर सामग्री मॉडरेशन नीतियां, बेहतर पहचान एल्गोरिदम और AI-जनित सामग्री की पहचान करने के लिए वॉटरमार्किंग तकनीक शामिल हो सकती हैं। कंपनी संभवतः डीपफेक वीडियो और ऑडियो में सूक्ष्म असंगतियों या कलाकृतियों का पता लगाने के तरीकों की खोज कर रही है जो मानव आँख को आसानी से दिखाई नहीं देते हैं।

इस मुद्दे का उद्योग पर काफी प्रभाव पड़ता है। जैसे-जैसे AI तकनीक आगे बढ़ती जा रही है, मजबूत सुरक्षा उपायों और नैतिक दिशानिर्देशों की आवश्यकता तेजी से बढ़ती जा रही है। X द्वारा उठाए गए कदम AI मॉडल विकसित और तैनात करने वाली अन्य प्रौद्योगिकी कंपनियों के लिए एक मिसाल कायम कर सकते हैं। प्रभावी डीपफेक पहचान और रोकथाम प्रौद्योगिकियों का विकास अब अनुसंधान और विकास का एक महत्वपूर्ण क्षेत्र है।

स्थिति अभी भी अस्थिर है, और ग्रोक से संबंधित डीपफेक का मुकाबला करने के लिए उनकी विशिष्ट रणनीतियों के बारे में आने वाले हफ्तों में X से और घोषणाएं होने की उम्मीद है। सरकार संभवतः स्थिति पर बारीकी से निगरानी रखना जारी रखेगी और जिम्मेदार AI विकास और तैनाती सुनिश्चित करने के लिए प्रौद्योगिकी कंपनियों के साथ जुड़ती रहेगी।