नंबर 10 डाउनिंग स्ट्रीट ने उन रिपोर्टों को स्वीकार किया है जिनमें कहा गया है कि X, जिसे पहले ट्विटर के नाम से जाना जाता था, ग्रोक (Grok) का उपयोग करके बनाए गए डीपफेक के प्रसार को रोकने के लिए कदम उठा रहा है, ग्रोक उसका कृत्रिम बुद्धिमत्ता मॉडल है। सरकार की सकारात्मक प्रतिक्रिया AI-जनित सामग्री के संभावित दुरुपयोग और सार्वजनिक चर्चा पर इसके प्रभाव के बारे में बढ़ती चिंता का संकेत है।

X द्वारा यह कदम AI मॉडल और यथार्थवादी लेकिन मनगढ़ंत वीडियो और ऑडियो बनाने की उनकी क्षमता की बढ़ती जांच के बीच आया है। डीपफेक, जो परिष्कृत मशीन लर्निंग तकनीकों का उपयोग करते हैं, का उपयोग गलत सूचना फैलाने, जनमत कोmanipulate करने और प्रतिष्ठा को नुकसान पहुंचाने के लिए किया जा सकता है। X का AI मॉडल ग्रोक, एक बड़ा भाषा मॉडल (LLM) है जो अन्य AI टूल को शक्ति प्रदान करने वालों के समान है, जो टेक्स्ट उत्पन्न करने, भाषाओं का अनुवाद करने और विभिन्न प्रकार की रचनात्मक सामग्री बनाने में सक्षम है। हालाँकि, इसकी पहुंच ने डीपफेक बनाने में इसके संभावित दुरुपयोग के बारे में चिंताएँ बढ़ा दी हैं।

एक सरकारी प्रवक्ता ने कहा, "हम AI-जनित दुष्प्रचार से जुड़े जोखिमों को कम करने के लिए सोशल मीडिया प्लेटफॉर्म द्वारा उठाए गए किसी भी कदम का स्वागत करते हैं।" "यह महत्वपूर्ण है कि ये प्लेटफ़ॉर्म अपनी साइटों पर होस्ट की गई सामग्री की ज़िम्मेदारी लें और हानिकारक डीपफेक के प्रसार को रोकने के लिए उपाय लागू करें।"

X द्वारा कथित तौर पर कार्यान्वित किए जा रहे विशिष्ट उपायों का पूरी तरह से खुलासा नहीं किया गया है, लेकिन उद्योग विश्लेषकों का अनुमान है कि इनमें उन्नत सामग्री मॉडरेशन नीतियां, बेहतर पहचान एल्गोरिदम और AI-जनित सामग्री के उपयोग के संबंध में सख्त उपयोगकर्ता दिशानिर्देश शामिल हो सकते हैं। पहचान एल्गोरिदम अक्सर डीपफेक में सूक्ष्म विसंगतियों या कलाकृतियों की पहचान करने पर निर्भर करते हैं जो मानव आंख को आसानी से दिखाई नहीं देते हैं। इनमें अप्राकृतिक झपकी पैटर्न, प्रकाश व्यवस्था में विसंगतियां या चेहरे की विशेषताओं में विकृतियां शामिल हो सकती हैं।

डीपफेक का उदय मीडिया परिदृश्य और लोकतांत्रिक प्रक्रियाओं के लिए एक महत्वपूर्ण चुनौती है। विशेषज्ञों का चेतावनी है कि इन प्रौद्योगिकियों की बढ़ती परिष्कार प्रामाणिक और मनगढ़ंत सामग्री के बीच अंतर करना कठिन बना देती है, जिससे संस्थानों में विश्वास कम हो सकता है और सामाजिक विभाजन बढ़ सकता है। उद्योग पर इसका प्रभाव काफी है, मीडिया संगठन, तथ्य-जांच एजेंसियां और प्रौद्योगिकी कंपनियां सभी डीपफेक की पहचान करने और उनका मुकाबला करने के लिए प्रभावी रणनीतियों को विकसित करने की आवश्यकता से जूझ रही हैं।

यह विकास AI के विनियमन और तकनीकी कंपनियों की अपनी तकनीकों के नैतिक उपयोग को सुनिश्चित करने में जिम्मेदारियों के आसपास चल रही बहस को उजागर करता है। जबकि कुछ सख्त सरकारी निरीक्षण की वकालत करते हैं, वहीं अन्य का तर्क है कि स्व-विनियमन और उद्योग सहयोग अधिक प्रभावी दृष्टिकोण हैं।

X ने अभी तक ग्रोक-जनित डीपफेक को संबोधित करने के लिए अपनी विशिष्ट योजनाओं की रूपरेखा बताते हुए एक विस्तृत बयान जारी नहीं किया है। आने वाले हफ्तों में और घोषणाएं होने की उम्मीद है, क्योंकि कंपनी अपनी रणनीति को लागू करने और सरकारी अधिकारियों और जनता द्वारा उठाई गई चिंताओं को दूर करने के लिए काम कर रही है। इन उपायों की प्रभावशीलता पर नीति निर्माताओं, उद्योग हितधारकों और जनता द्वारा समान रूप से बारीकी से निगरानी की जाएगी।