सरकारी अधिकारियों ने एलोन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स (X) से उन डीपफेक के प्रसार को संबोधित करने की मांग की है जिन्हें वे प्लेटफॉर्म के आर्टिफिशियल इंटेलिजेंस चैटबॉट, ग्रोोक (Grok) द्वारा उत्पन्न "भयानक" बता रहे हैं। यह मांग एक्स (X) पर प्रसारित होने वाली हेरफेर की गई ऑडियो और वीडियो सामग्री में वृद्धि के बाद आई है, जिससे गलत सूचना और व्यक्तियों और संस्थानों को संभावित नुकसान के बारे में चिंताएं बढ़ रही हैं।

सरकार की चिंताएं ग्रोोक (Grok) की यथार्थवादी और убедительный डीपफेक उत्पन्न करने की क्षमता पर केंद्रित हैं, जो सिंथेटिक मीडिया हैं जिसमें मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी और की समानता से बदल दिया जाता है। अधिकारियों ने कहा कि इन डीपफेक का उपयोग झूठी कहानियों को फैलाने, सार्वजनिक हस्तियों का प्रतिरूपण करने और संभावित रूप से जनमत को प्रभावित करने के लिए किया जा रहा है। प्रौद्योगिकी मानक विभाग के एक प्रवक्ता ने जारी बयान में कहा, "इन ग्रोोक (Grok) द्वारा उत्पन्न डीपफेक की परिष्कार बेहद परेशान करने वाली है।" "हम मांग कर रहे हैं कि एक्स (X) जनता के लिए इनसे होने वाले जोखिम को कम करने के लिए तत्काल कार्रवाई करे।"

मस्क की एआई कंपनी एक्सएआई (xAI) द्वारा लॉन्च किया गया ग्रोोक (Grok) एक बड़ा भाषा मॉडल (LLM) है जिसे सवालों के जवाब देने और संवादात्मक शैली में टेक्स्ट उत्पन्न करने के लिए डिज़ाइन किया गया है। एलएलएम (LLM) को टेक्स्ट और कोड के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे मानव जैसी भाषा को समझने और उत्पन्न करने में सक्षम होते हैं। जबकि एक्सएआई (xAI) ने शिक्षा और मनोरंजन के लिए ग्रोोक (Grok) की क्षमता का प्रचार किया है, वहीं आलोचकों ने इसके दुरुपयोग की संभावना के बारे में चेतावनी दी है, खासकर गलत सूचना के निर्माण में।

एक्स (X) की वर्तमान नीति भ्रामक या गुमराह करने के इरादे से डीपफेक के निर्माण और वितरण को प्रतिबंधित करती है, लेकिन अधिकारियों का तर्क है कि प्लेटफॉर्म के प्रवर्तन तंत्र अपर्याप्त हैं। वे हाल के हफ्तों में एक्स (X) पर कई हाई-प्रोफाइल डीपफेक के तेजी से प्रसार की ओर इशारा करते हैं, जिसमें एक प्रमुख राजनेता को भड़काऊ टिप्पणी करते हुए झूठा दर्शाया गया है। प्रौद्योगिकी मानक विभाग के प्रवक्ता ने कहा, "उनकी वर्तमान मॉडरेशन के प्रयास स्पष्ट रूप से इस समस्या के पैमाने और परिष्कार को संबोधित करने के लिए अपर्याप्त हैं।"

सरकार की मांग एक्स (X) पर अपनी डीपफेक का पता लगाने और हटाने की क्षमताओं को बढ़ाने के लिए दबाव डालती है। संभावित समाधानों में अधिक परिष्कृत एआई-संचालित पहचान उपकरण लागू करना, मानव मॉडरेशन बढ़ाना और स्वतंत्र तथ्य-जांच संगठनों के साथ सहयोग करना शामिल है। यह स्थिति एआई-जनित सामग्री को विनियमित करने और गलत सूचना से बचाने की आवश्यकता के साथ भाषण की स्वतंत्रता को संतुलित करने की व्यापक चुनौतियों को भी उजागर करती है।

उद्योग विश्लेषकों का सुझाव है कि यह घटना एआई कंपनियों और सोशल मीडिया प्लेटफॉर्म की बढ़ी हुई जांच का कारण बन सकती है, जिसके परिणामस्वरूप संभावित रूप से सख्त नियम और उनके प्लेटफॉर्म पर साझा की गई सामग्री के लिए अधिक जवाबदेही हो सकती है। प्रौद्योगिकी नीति संस्थान में एक प्रमुख एआई नैतिकता शोधकर्ता डॉ. अन्या शर्मा ने कहा, "यह पूरे उद्योग के लिए एक वेक-अप कॉल है।" "हमें एआई प्रौद्योगिकियों के दुरुपयोग को रोकने और यह सुनिश्चित करने के लिए मजबूत सुरक्षा उपायों को विकसित करने की आवश्यकता है कि उनका उपयोग जिम्मेदारी से किया जाए।"

एक्स (X) ने सरकार की चिंताओं को स्वीकार किया है और कहा है कि वह अपनी डीपफेक का पता लगाने और हटाने की क्षमताओं में सुधार के लिए "सक्रिय रूप से काम कर रहा है"। कंपनी ने अभी तक उन विशिष्ट उपायों की घोषणा नहीं की है जो वह उठाएगी, लेकिन अधिकारियों ने संकेत दिया है कि वे अगले दो हफ्तों के भीतर कार्रवाई की एक विस्तृत योजना की उम्मीद करते हैं। इस स्थिति के परिणाम एआई विनियमन और ऑनलाइन गलत सूचना के खिलाफ लड़ाई के भविष्य के लिए महत्वपूर्ण निहितार्थ हो सकते हैं।