सरकारी अधिकारियों ने एलोन मस्क के सोशल मीडिया प्लेटफॉर्म X से उन "भयानक" डीपफेक के प्रसार को संबोधित करने की मांग की है, जो प्लेटफॉर्म के आर्टिफिशियल इंटेलिजेंस चैटबॉट, Grok द्वारा उत्पन्न किए जा रहे हैं। यह मांग X पर प्रसारित होने वाली यथार्थवादी लेकिन मनगढ़ंत सामग्री में वृद्धि के बाद आई है, जिससे संभावित गलत सूचना और प्रतिष्ठा को नुकसान होने की चिंता बढ़ गई है।

सरकार की चिंता Grok की अत्यधिक убедительные नकली छवियों और वीडियो उत्पन्न करने की क्षमता पर केंद्रित है, जिन्हें अक्सर डीपफेक कहा जाता है। ये डीपफेक, उन्नत मशीन लर्निंग तकनीकों का उपयोग करके बनाए गए हैं, व्यक्तियों को ऐसी बातें कहते या करते हुए दिखा सकते हैं जो उन्होंने वास्तव में कभी नहीं कीं। यह तकनीक उन एल्गोरिदम पर निर्भर करती है जो नई, बदली हुई सामग्री बनाने के लिए मौजूदा छवियों और वीडियो का विश्लेषण और संश्लेषण करते हैं। अधिकारियों को चिंता है कि Grok जिस आसानी से इन डीपफेक का उत्पादन कर सकता है, वह X को गलत सूचना अभियानों और दुर्भावनापूर्ण प्रतिरूपण के लिए एक उपजाऊ भूमि बनाता है।

प्रौद्योगिकी विनियमन विभाग के एक प्रवक्ता ने गुमनाम रूप से बात करते हुए कहा, "इन Grok-जनित डीपफेक की परिष्कार बहुत परेशान करने वाली है।" "हम ऐसे उदाहरण देख रहे हैं जहां औसत उपयोगकर्ता के लिए यह भेद करना तेजी से मुश्किल होता जा रहा है कि क्या वास्तविक है और क्या मनगढ़ंत है। यह सार्वजनिक विश्वास और संभावित रूप से लोकतांत्रिक प्रक्रियाओं के लिए एक महत्वपूर्ण खतरा है।"

X का Grok AI, जिसे पिछले साल के अंत में लॉन्च किया गया था, उपयोगकर्ताओं को संवादात्मक AI क्षमताएं प्रदान करने, सवालों के जवाब देने, टेक्स्ट उत्पन्न करने और चित्र बनाने के लिए डिज़ाइन किया गया है। जबकि X ने हानिकारक सामग्री के उत्पादन को रोकने के लिए सुरक्षा उपाय लागू किए हैं, आलोचकों का तर्क है कि ये उपाय डीपफेक तकनीक की तेजी से विकसित हो रही क्षमताओं का मुकाबला करने के लिए अपर्याप्त हैं। कंपनी ने कहा है कि वह लगातार अपने AI सुरक्षा प्रोटोकॉल को बेहतर बनाने के लिए काम कर रही है।

X की AI सुरक्षा टीम द्वारा जारी एक बयान में कहा गया है, "हम यह सुनिश्चित करने के लिए प्रतिबद्ध हैं कि Grok का उपयोग जिम्मेदारी और नैतिकता के साथ किया जाए।" "हम Grok के उपयोग की सक्रिय रूप से निगरानी कर रहे हैं और दुरुपयोग के किसी भी उदाहरण को संबोधित करने के लिए कदम उठा रहे हैं, जिसमें हमारी नीतियों का उल्लंघन करने वाली सामग्री को हटाना और हमारी पहचान क्षमताओं में सुधार करना शामिल है।"

सरकार की मांग तकनीकी नवाचार और इसके संभावित नुकसान से बचाने की आवश्यकता के बीच बढ़ते तनाव को उजागर करती है। आर्टिफिशियल इंटेलिजेंस एथिक्स के क्षेत्र के विशेषज्ञ मजबूत पहचान उपकरण विकसित करने और डीपफेक तकनीक के उपयोग को नियंत्रित करने के लिए स्पष्ट नियम लागू करने के महत्व पर जोर देते हैं। उद्योग पर इसका महत्वपूर्ण प्रभाव पड़ सकता है, जिससे संभावित रूप से सख्त सामग्री मॉडरेशन नीतियां और AI-संचालित प्लेटफार्मों की बढ़ी हुई जांच हो सकती है।

वर्तमान स्थिति यह है कि X पर डीपफेक मुद्दे को संबोधित करने की अपनी प्रतिबद्धता को प्रदर्शित करने का बढ़ता दबाव है। सरकार ने संकेत दिया है कि यदि X Grok की डीपफेक क्षमताओं से जुड़े जोखिमों को कम करने के लिए पर्याप्त कदम उठाने में विफल रहता है तो वह आगे नियामक कार्रवाई पर विचार करेगी। अगली घटनाओं में एलोन मस्क का एक सार्वजनिक बयान और संभावित रूप से Grok के लिए अपडेट किए गए AI सुरक्षा प्रोटोकॉल जारी करना शामिल है।