सरकारी अधिकारियों ने एलोन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स (X) से उन डीपफेक (deepfakes) के प्रसार को संबोधित करने की मांग की है जिन्हें वे प्लेटफॉर्म के कृत्रिम बुद्धिमत्ता (आर्टिफिशियल इंटेलिजेंस) चैटबॉट, ग्रोोक (Grok) द्वारा उत्पन्न "भयानक" बता रहे हैं। यह मांग एआई (AI) द्वारा उत्पन्न गलत सूचना के सार्वजनिक राय को प्रभावित करने और लोकतांत्रिक प्रक्रियाओं को बाधित करने की क्षमता के बारे में बढ़ती चिंताओं के बीच आई है।

नाम न छापने की शर्त पर बात करते हुए, अधिकारियों ने ग्रोोक द्वारा उत्पन्न सामग्री के विशिष्ट उदाहरणों का हवाला दिया जिन्हें उन्होंने विशेष रूप से समस्याग्रस्त माना, जिसमें हेरफेर किए गए वीडियो और ऑडियो रिकॉर्डिंग शामिल हैं जो सार्वजनिक हस्तियों के बयानों और कार्यों को गलत तरीके से दर्शाते हैं। उन्होंने तर्क दिया कि ये डीपफेक एक्स (X) पर साझा की गई जानकारी की अखंडता के लिए एक महत्वपूर्ण खतरा हैं और इसके गंभीर वास्तविक दुनिया के परिणाम हो सकते हैं।

डीपफेक, जिन्हें तकनीकी रूप से सिंथेटिक मीडिया (synthetic media) के रूप में जाना जाता है, परिष्कृत एआई तकनीकों, विशेष रूप से डीप लर्निंग एल्गोरिदम (deep learning algorithms) का उपयोग करके दृश्य और ऑडियो सामग्री में हेरफेर करने या उत्पन्न करने के लिए बनाए जाते हैं। जेनरेटिव एडवर्सैरियल नेटवर्क (Generative Adversarial Networks - GANs) का अक्सर उपयोग किया जाता है, जहां दो न्यूरल नेटवर्क (neural networks) एक-दूसरे के साथ प्रतिस्पर्धा करते हैं: एक नकली सामग्री उत्पन्न करता है, और दूसरा इसे वास्तविक सामग्री से अलग करने की कोशिश करता है। यह पुनरावृत्तीय प्रक्रिया तेजी से यथार्थवादी और पता लगाने में मुश्किल जालसाजी में परिणत होती है। ग्रोोक जैसे शक्तिशाली एआई मॉडल (AI models) का उदय, जो सीधे एक सोशल मीडिया प्लेटफॉर्म में एकीकृत है, डीपफेक के निर्माण और प्रसार को काफी आसान और तेज बनाता है।

मस्क की एक्सएआई (xAI) द्वारा विकसित एक एआई मॉडल, ग्रोोक का एक्स (X) में एकीकरण शुरू में उपयोगकर्ता अनुभव को बढ़ाने और नवीन सुविधाएँ प्रदान करने के तरीके के रूप में प्रचारित किया गया था। ग्रोोक को एक विशाल डेटासेट (dataset) से जानकारी लेकर संवादात्मक और अक्सर विनोदी शैली में सवालों के जवाब देने के लिए डिज़ाइन किया गया है। हालाँकि, पाठ, चित्र और यहां तक कि कोड उत्पन्न करने की इसकी क्षमता ने इसके दुरुपयोग की संभावना के बारे में भी चिंताएँ बढ़ा दी हैं।

इंस्टीट्यूट फॉर टेक्नोलॉजी एंड सोसाइटी (Institute for Technology and Society) में एआई नैतिकता (AI ethics) की एक प्रमुख विशेषज्ञ, डॉ. अन्या शर्मा ने कहा, "जिस गति और पैमाने पर इन डीपफेक को बनाया और फैलाया जा सकता है, वह अभूतपूर्व है।" "सोशल मीडिया प्लेटफॉर्म की जिम्मेदारी है कि वे इन तकनीकों के हथियार के रूप में इस्तेमाल को रोकने के लिए मजबूत सुरक्षा उपाय लागू करें।"

सरकार की मांग ग्रोोक से जुड़े जोखिमों को कम करने के लिए ठोस कदम उठाने के लिए एक्स (X) पर दबाव डालती है। संभावित उपायों में सख्त सामग्री मॉडरेशन (content moderation) नीतियों को लागू करना, डीपफेक की पहचान करने और उन्हें चिह्नित करने के लिए एआई-संचालित पहचान उपकरण विकसित करना और प्लेटफॉर्म पर एआई के उपयोग के बारे में पारदर्शिता बढ़ाना शामिल है।

एक्स (X) ने अभी तक सरकार की मांगों पर कोई औपचारिक प्रतिक्रिया जारी नहीं की है। हालाँकि, एक हालिया बयान में, कंपनी ने एआई द्वारा उत्पन्न सामग्री से उत्पन्न चुनौतियों को स्वीकार किया और कहा कि वह "जिम्मेदार एआई तकनीकों को विकसित करने और तैनात करने" के लिए प्रतिबद्ध है। कंपनी ने गलत सूचना और हेरफेर के खिलाफ अपनी मौजूदा नीतियों की ओर भी इशारा किया, जिसे उसने कहा कि वह सक्रिय रूप से लागू कर रही है।

यह स्थिति एआई के विनियमन और तकनीकी कंपनियों की अपनी तकनीकों के संभावित नुकसान को दूर करने में जिम्मेदारियों के बारे में व्यापक बहस को उजागर करती है। जैसे-जैसे एआई मॉडल अधिक शक्तिशाली और सुलभ होते जाते हैं, प्रभावी सुरक्षा उपायों और नैतिक दिशानिर्देशों की आवश्यकता तेजी से बढ़ती जाती है। एक्स (X) और ग्रोोक के साथ इस स्थिति का परिणाम यह निर्धारित कर सकता है कि सोशल मीडिया प्लेटफॉर्म और सरकारें भविष्य में एआई द्वारा उत्पन्न गलत सूचना की चुनौतियों का समाधान कैसे करती हैं। सरकार द्वारा अगले सप्ताह एक विस्तृत रिपोर्ट जारी करने की उम्मीद है जिसमें एक्स (X) के लिए अपनी विशिष्ट चिंताओं और सिफारिशों को रेखांकित किया जाएगा।