एक सरकारी मंत्री के बयान के अनुसार, डीपफेक को लेकर चिंताओं के कारण यूनाइटेड किंगडम में X नामक कंपनी पर प्रतिबंध लगने की संभावना है। मंत्री ने संभावित निषेध के कारण के रूप में AI-जनित हेरफेर की गई सामग्री के प्रसार को पर्याप्त रूप से संबोधित करने में प्लेटफ़ॉर्म की कथित विफलता का हवाला दिया।

मंत्री ने मंगलवार को एक संसदीय सुनवाई के दौरान कहा कि सरकार नागरिकों की सुरक्षा और सूचना की अखंडता सुनिश्चित करने के लिए प्रतिबंध सहित सभी उपलब्ध विकल्पों पर सक्रिय रूप से विचार कर रही है। विशिष्ट चिंताएँ डीपफेक के इर्द-गिर्द घूमती हैं जो संभावित रूप से जनता को गुमराह कर सकती हैं, चुनावों को प्रभावित कर सकती हैं या प्रतिष्ठा को नुकसान पहुंचा सकती हैं।

पिछले साल पारित ऑनलाइन सुरक्षा अधिनियम, सरकार को ऑनलाइन प्लेटफ़ॉर्म को विनियमित करने और हानिकारक सामग्री के लिए उन्हें जवाबदेह ठहराने की शक्तियाँ प्रदान करता है। यह कानून X के खिलाफ संभावित कार्रवाई के लिए ढांचा प्रदान करता है, जिसमें जुर्माना और अंततः प्रतिबंध शामिल है यदि प्लेटफ़ॉर्म अधिनियम के प्रावधानों का पालन करने में विफल रहता है।

X के आलोचकों ने लंबे समय से तर्क दिया है कि प्लेटफ़ॉर्म ने डीपफेक सहित गलत सूचना और हानिकारक सामग्री के प्रसार का मुकाबला करने के लिए पर्याप्त काम नहीं किया है। वे उन उदाहरणों की ओर इशारा करते हैं जहां हेरफेर किए गए वीडियो और छवियां वायरल हो गए हैं, जिससे वास्तविक दुनिया में नुकसान हुआ है।

मंत्री के बयान के जवाब में, X ने डीपफेक और गलत सूचना का मुकाबला करने के लिए अपनी प्रतिबद्धता की पुष्टि करते हुए एक बयान जारी किया। कंपनी ने हेरफेर की गई सामग्री का पता लगाने और हटाने के उद्देश्य से अपनी मौजूदा नीतियों और प्रौद्योगिकियों की रूपरेखा दी, और कहा कि वह इस क्षेत्र में अपनी क्षमताओं को बेहतर बनाने के लिए लगातार काम कर रही है। बयान में लिखा था, "हम डीपफेक के मुद्दे को बहुत गंभीरता से लेते हैं और अपने उपयोगकर्ताओं को हानिकारक सामग्री से बचाने के लिए प्रतिबद्ध हैं।"

हालांकि, कुछ विशेषज्ञ X के प्रयासों के प्रति संशयवादी बने हुए हैं, उनका तर्क है कि प्लेटफ़ॉर्म की नीतियों को लगातार लागू नहीं किया जाता है और इसकी पहचान तकनीक डीपफेक तकनीक की तेजी से विकसित हो रही क्षमताओं के साथ तालमेल रखने के लिए पर्याप्त उन्नत नहीं है।

यूके सरकार का यह कदम डीपफेक द्वारा संस्थानों में विश्वास को कम करने और समाजों को अस्थिर करने की क्षमता के बारे में बढ़ती वैश्विक चिंता के बीच आया है। कई देश डीपफेक को विनियमित करने और उन्हें बनाने और प्रसारित करने वालों को जवाबदेह ठहराने के तरीकों की खोज कर रहे हैं।

विज्ञान, नवाचार और प्रौद्योगिकी विभाग वर्तमान में सरकार की चिंताओं के प्रति X की प्रतिक्रिया की समीक्षा कर रहा है। विभाग से आने वाले हफ्तों में मंत्री को एक सिफारिश करने की उम्मीद है, जिसके बाद यह निर्णय लिया जाएगा कि प्रतिबंध लगाना है या नहीं। निर्णय लेने की प्रक्रिया में विशेषज्ञों, हितधारकों और अन्य सरकारी एजेंसियों के साथ परामर्श शामिल होगा।