सरकारी अधिकारियों ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स से उन "भयानक" डीपफेक के प्रसार को संबोधित करने की मांग की है, जो प्लेटफॉर्म के आर्टिफिशियल इंटेलिजेंस चैटबॉट, ग्रोके द्वारा उत्पन्न किए जा रहे हैं। यह मांग एक्स पर प्रसारित होने वाली यथार्थवादी लेकिन मनगढ़ंत ऑडियो और वीडियो सामग्री में वृद्धि के बाद आई है, जिससे संभावित गलत सूचना और प्रतिष्ठा को नुकसान पहुंचने की चिंता बढ़ गई है।

सरकार की चिंताएं ग्रोके की अत्यधिक убедительный डीपफेक उत्पन्न करने की क्षमता पर केंद्रित हैं, जो सिंथेटिक मीडिया हैं जिसमें किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी अन्य व्यक्ति की समानता से बदल दिया जाता है। इस तकनीक में, मनोरंजन और शिक्षा में संभावित अनुप्रयोग होने के साथ-साथ, झूठी कहानियाँ बनाने, सार्वजनिक राय में हेरफेर करने और व्यक्तियों को बदनाम करने के लिए दुरुपयोग किया जा सकता है। प्रौद्योगिकी विनियमन विभाग के एक प्रवक्ता ने जारी बयान में कहा, "जिस गति और परिष्कार के साथ ग्रोके इन डीपफेक का उत्पादन कर सकता है, वह बहुत परेशान करने वाला है।" "हमें आश्वासन चाहिए कि एक्स जोखिमों को कम करने के लिए सक्रिय कदम उठा रहा है।"

एक्स ने 2023 के अंत में अपने प्रीमियम ग्राहकों के लिए ग्रोके को एक सुविधा के रूप में पेश किया, जिसे उपयोगकर्ता की सहभागिता बढ़ाने और रचनात्मक उपकरण प्रदान करने के लिए डिज़ाइन किया गया था। ग्रोके एक बड़े भाषा मॉडल (एलएलएम) पर बनाया गया है, जो एक प्रकार का एआई है जिसे टेक्स्ट और कोड के बड़े डेटासेट पर प्रशिक्षित किया जाता है, जिससे यह मानव-जैसा टेक्स्ट उत्पन्न करने, भाषाओं का अनुवाद करने और विभिन्न प्रकार की रचनात्मक सामग्री बनाने में सक्षम होता है। जबकि एक्स ने हानिकारक सामग्री के उत्पादन को रोकने के लिए सुरक्षा उपाय लागू किए हैं, आलोचकों का तर्क है कि ये उपाय डीपफेक तकनीक के बढ़ते परिष्कार का मुकाबला करने के लिए अपर्याप्त हैं।

एआई-जनित डीपफेक का उदय टेक उद्योग और नियामकों दोनों के लिए एक महत्वपूर्ण चुनौती है। विशेषज्ञों का चेतावनी है कि यह तकनीक तेजी से सुलभ होती जा रही है, जिससे दुर्भावनापूर्ण अभिनेताओं के लिए убедительный गलत सूचना बनाना और प्रसारित करना आसान हो गया है। इंस्टीट्यूट फॉर डिजिटल एथिक्स में एक प्रमुख एआई शोधकर्ता डॉ. अन्या शर्मा ने कहा, "चुनौती केवल डीपफेक का पता लगाना नहीं है, बल्कि उन्हें उनके स्रोत से जोड़ना और जिम्मेदार लोगों को जवाबदेह ठहराना भी है।"

एक्स ने सरकार की मांगों का जवाब देते हुए कहा है कि वह अपने प्लेटफॉर्म पर एआई के दुरुपयोग का मुकाबला करने के लिए प्रतिबद्ध है। कंपनी ने अपनी वर्तमान उपायों की रूपरेखा दी, जिसमें सामग्री मॉडरेशन नीतियां, एआई-संचालित पहचान उपकरण और उपयोगकर्ता रिपोर्टिंग तंत्र शामिल हैं। एक्स के ट्रस्ट एंड सेफ्टी के प्रमुख द्वारा जारी एक बयान में कहा गया, "हम डीपफेक और हेरफेर किए गए मीडिया के अन्य रूपों की पहचान करने और हटाने की अपनी क्षमता में सुधार के लिए लगातार काम कर रहे हैं।" "हम नई तकनीकों, जैसे वॉटरमार्किंग और प्रोवेनेंस ट्रैकिंग की भी खोज कर रहे हैं, ताकि उपयोगकर्ताओं को प्रामाणिक और सिंथेटिक सामग्री के बीच अंतर करने में मदद मिल सके।"

सरकार वर्तमान में एक्स द्वारा प्रस्तावित उपायों की समीक्षा कर रही है और आगे नियामक कार्रवाई पर विचार कर रही है। इसमें सख्त सामग्री मॉडरेशन नीतियों को अनिवार्य करना, एआई-जनित सामग्री को स्पष्ट रूप से लेबल करने की आवश्यकता और डीपफेक के प्रसार को पर्याप्त रूप से संबोधित करने में विफल रहने वाले प्लेटफार्मों पर जुर्माना लगाना शामिल हो सकता है। इस समीक्षा के परिणाम का एआई विनियमन के भविष्य और गलत सूचना का मुकाबला करने में सोशल मीडिया प्लेटफार्मों की जिम्मेदारी पर महत्वपूर्ण प्रभाव पड़ सकता है।