डाउनिंग स्ट्रीट में नंबर 10 ने उन रिपोर्टों को स्वीकार किया है कि X, जिसे पहले ट्विटर के नाम से जाना जाता था, अपने Grok AI मॉडल का उपयोग करके उत्पन्न डीपफेक के मुद्दे को संबोधित करने के लिए कदम उठा रहा है। सरकार की सकारात्मक प्रतिक्रिया सोशल मीडिया प्लेटफॉर्म पर AI-जनित गलत सूचना के प्रसार का मुकाबला करने के लिए बढ़ते दबाव का संकेत देती है।

X द्वारा यह कदम Grok की क्षमता के बारे में बढ़ती चिंताओं के बीच आया है, जो संवादी AI और टेक्स्ट जनरेशन के लिए डिज़ाइन किया गया एक AI मॉडल है, जिसका उपयोग убедительный लेकिन मनगढ़ंत ऑडियो और वीडियो सामग्री बनाने में दुरुपयोग किया जा सकता है। डीपफेक, जो परिष्कृत मशीन लर्निंग तकनीकों का लाभ उठाते हैं, का उपयोग व्यक्तियों का प्रतिरूपण करने, झूठी कहानियाँ फैलाने और सार्वजनिक राय में हेरफेर करने के लिए किया जा सकता है।

डाउनिंग स्ट्रीट के एक प्रवक्ता ने कहा, "हम AI-जनित सामग्री से जुड़े जोखिमों को कम करने के किसी भी प्रयास का स्वागत करते हैं।" "यह महत्वपूर्ण है कि प्लेटफ़ॉर्म उस तकनीक की जिम्मेदारी लें जिसे वे तैनात करते हैं और इसके दुरुपयोग को रोकने के लिए सक्रिय रूप से काम करें।"

xAI, एलोन मस्क की कृत्रिम बुद्धिमत्ता कंपनी द्वारा विकसित Grok, टेक्स्ट और कोड के एक विशाल डेटासेट पर प्रशिक्षित एक बड़ा भाषा मॉडल (LLM) है। Grok जैसे LLM मानव जैसी टेक्स्ट को समझने और उत्पन्न करने के लिए अरबों मापदंडों वाले तंत्रिका नेटवर्क का उपयोग करते हैं। चिंता मॉडल की यथार्थवादी स्क्रिप्ट और संवाद उत्पन्न करने की क्षमता से उत्पन्न होती है जिसे बाद में убедительный डीपफेक बनाने के लिए छवि और वीडियो हेरफेर तकनीकों के साथ जोड़ा जा सकता है।

जबकि X के विशिष्ट उपायों का विवरण सीमित है, उद्योग विश्लेषकों का अनुमान है कि प्लेटफ़ॉर्म डिटेक्शन एल्गोरिदम, कंटेंट मॉडरेशन नीतियों और उपयोगकर्ता रिपोर्टिंग तंत्र के संयोजन को लागू कर सकता है। डिटेक्शन एल्गोरिदम वीडियो और ऑडियो सामग्री का विश्लेषण AI हेरफेर के संकेतों के लिए कर सकते हैं, जैसे कि चेहरे की गतिविधियों में असंगतता या अप्राकृतिक भाषण पैटर्न। कंटेंट मॉडरेशन नीतियां डीपफेक पर प्लेटफ़ॉर्म के रुख और उन्हें बनाने या साझा करने वाले उपयोगकर्ताओं के लिए परिणामों की रूपरेखा तैयार करेंगी। उपयोगकर्ता रिपोर्टिंग तंत्र उपयोगकर्ताओं को X की मॉडरेशन टीम द्वारा समीक्षा के लिए संभावित रूप से हानिकारक सामग्री को चिह्नित करने की अनुमति देगा।

Grok जैसे जेनरेटिव AI टूल के उदय ने सोशल मीडिया प्लेटफॉर्म और नीति निर्माताओं दोनों के लिए एक महत्वपूर्ण चुनौती पेश की है। मौजूदा नियम अक्सर AI तकनीक में तेजी से हो रही प्रगति के साथ तालमेल बिठाने के लिए संघर्ष करते हैं। उदाहरण के लिए, यूरोपीय संघ का AI अधिनियम, AI प्रणालियों को उनके जोखिम स्तर के आधार पर विनियमित करने का लक्ष्य रखता है, लेकिन डीपफेक के विशिष्ट खतरे को दूर करने में इसकी प्रभावशीलता अभी भी देखी जानी बाकी है।

X की कार्रवाइयों का उद्योग प्रभाव पर्याप्त हो सकता है, संभावित रूप से अन्य प्लेटफार्मों के अनुसरण के लिए एक मिसाल कायम कर सकता है। जैसे-जैसे डीपफेक तकनीक अधिक परिष्कृत और सुलभ होती जाती है, सोशल मीडिया कंपनियों पर इस मुद्दे को सक्रिय रूप से संबोधित करने का दबाव और तेज होता जाएगा। सार्वजनिक विश्वास बनाए रखने और गलत सूचना के प्रसार को रोकने में प्रभावी डिटेक्शन और शमन रणनीतियों का विकास और तैनाती महत्वपूर्ण होगी।

Grok-जनित डीपफेक को संबोधित करने के लिए X ने अभी तक अपनी विशिष्ट योजनाओं की रूपरेखा बताते हुए एक व्यापक बयान जारी नहीं किया है। आने वाले हफ्तों में और विवरण अपेक्षित हैं।