डाउनिंग स्ट्रीट ने उन रिपोर्टों पर अनुमोदन व्यक्त किया है जो दर्शाती हैं कि X, जिसे पहले ट्विटर के नाम से जाना जाता था, ग्रोक द्वारा उत्पन्न डीपफेक के मुद्दे को संबोधित करने के लिए कदम उठा रहा है, जो इसका कृत्रिम बुद्धिमत्ता मॉडल है। यह कदम एआई-जनित सामग्री के दुरुपयोग की संभावना के बारे में बढ़ती चिंताओं के बीच उठाया गया है ताकि गलत सूचना और प्रचार का प्रसार किया जा सके।

प्रधान मंत्री के एक प्रवक्ता ने कहा कि सरकार उन्नत एआई तकनीकों से जुड़े जोखिमों को कम करने के किसी भी प्रयास का स्वागत करती है। प्रवक्ता ने कहा, "हम एआई में जिम्मेदार नवाचार की आवश्यकता के बारे में स्पष्ट रहे हैं, और हम कंपनियों को संभावित नुकसान को दूर करने के लिए सक्रिय कदम उठाते हुए देखकर प्रोत्साहित हैं।"

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमैंटो है, सिंथेटिक मीडिया है जिसमें एक मौजूदा छवि या वीडियो में एक व्यक्ति को किसी और की समानता से बदल दिया जाता है। X का AI मॉडल, ग्रोक, यथार्थवादी छवियों और वीडियो को उत्पन्न करने में सक्षम है, जिससे चिंताएं बढ़ रही हैं कि इसका उपयोग व्यक्तियों या घटनाओं के ठोस लेकिन झूठे चित्रण बनाने के लिए किया जा सकता है। यह तकनीक जेनरेटिव एडवर्सैरियल नेटवर्क (GANs) पर निर्भर करती है, जो मशीन लर्निंग आर्किटेक्चर का एक प्रकार है जहां दो तंत्रिका नेटवर्क एक-दूसरे के साथ प्रतिस्पर्धा करते हैं - एक नकली सामग्री उत्पन्न करता है और दूसरा इसे वास्तविक सामग्री से अलग करने की कोशिश करता है - जब तक कि उत्पन्न सामग्री अत्यधिक यथार्थवादी नहीं हो जाती।

X ने अभी तक ग्रोक-जनित डीपफेक का मुकाबला करने के लिए कार्यान्वित किए जा रहे उपायों के बारे में विशिष्ट विवरण जारी नहीं किए हैं। हालांकि, उद्योग विश्लेषकों का अनुमान है कि कंपनी एआई-जनित सामग्री को वॉटरमार्क करने, डीपफेक का पता लगाने के लिए एल्गोरिदम विकसित करने और सख्त सामग्री मॉडरेशन नीतियों को लागू करने जैसी तकनीकों की खोज कर रही होगी। वॉटरमार्किंग में उत्पन्न सामग्री में एक सूक्ष्म, अक्सर अदृश्य, मार्कर एम्बेड करना शामिल है जो इसे एआई-जनित के रूप में पहचानता है। डिटेक्शन एल्गोरिदम प्रकाश व्यवस्था में विसंगतियों, अप्राकृतिक चेहरे की गतिविधियों या GAN प्रक्रिया द्वारा पेश किए गए आर्टिफैक्ट जैसे हेरफेर के संकेतों के लिए छवियों और वीडियो का विश्लेषण करते हैं।

डीपफेक के उदय ने राजनीति, मीडिया और मनोरंजन सहित विभिन्न क्षेत्रों में व्यापक चिंता पैदा कर दी है। विशेषज्ञों का चेतावनी है कि डीपफेक का उपयोग जनमत को हेरफेर करने, प्रतिष्ठा को नुकसान पहुंचाने और यहां तक कि हिंसा भड़काने के लिए किया जा सकता है। दुरुपयोग की संभावना विशेष रूप से चुनावों के संदर्भ में तीव्र है, जहां डीपफेक का उपयोग उम्मीदवारों के बारे में झूठी जानकारी फैलाने या मतदाता मतदान को प्रभावित करने के लिए किया जा सकता है।

यूके सरकार एआई के लिए नियामक ढांचे पर सक्रिय रूप से विचार कर रही है, जिसमें डीपफेक से जुड़े जोखिमों को दूर करने के उपाय भी शामिल हैं। ऑनलाइन सुरक्षा अधिनियम, जो हाल ही में लागू हुआ, में डीपफेक सहित हानिकारक ऑनलाइन सामग्री से निपटने के प्रावधान शामिल हैं। सरकार एआई शासन के लिए वैश्विक मानकों को विकसित करने के लिए अंतर्राष्ट्रीय भागीदारों के साथ भी काम कर रही है।

यह देखा जाना बाकी है कि ग्रोक डीपफेक को संबोधित करने के लिए X क्या विशिष्ट कार्रवाई करेगा और वे उपाय कितने प्रभावी होंगे। कंपनी आने वाले हफ्तों में आगे के विवरण जारी करने की उम्मीद है। किसी भी समाधान की प्रभावशीलता संभवतः डिटेक्शन विधियों की परिष्कार और X द्वारा उभरते खतरों का जवाब देने की गति पर निर्भर करेगी। एआई तकनीकों के चल रहे विकास और तैनाती के लिए संभावित दुरुपयोग से आगे रहने के लिए निरंतर सतर्कता और अनुकूलन की आवश्यकता होती है।