सरकारी अधिकारियों ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म X से उन "भयानक" डीपफेक के प्रसार को संबोधित करने की मांग की है, जिन्हें प्लेटफॉर्म के कृत्रिम बुद्धिमत्ता चैटबॉट, ग्रोके द्वारा उत्पन्न किया जा रहा है। यह मांग X पर प्रसारित होने वाली यथार्थवादी लेकिन मनगढ़ंत ऑडियो और वीडियो सामग्री में वृद्धि के बाद आई है, जिससे संभावित गलत सूचना और प्रतिष्ठा को नुकसान पहुंचने की चिंता बढ़ गई है।

सरकार की चिंताएं ग्रोके की न्यूनतम उपयोगकर्ता इनपुट के साथ अत्यधिक убедительные डीपफेक उत्पन्न करने की क्षमता पर केंद्रित हैं। डीपफेक, "डीप लर्निंग फेक" का संक्षिप्त रूप, दृश्य और ऑडियो सामग्री में हेरफेर करने या उत्पन्न करने के लिए परिष्कृत AI एल्गोरिदम का उपयोग करते हैं, जिससे वास्तविक और मनगढ़ंत सामग्री के बीच अंतर करना अक्सर मुश्किल हो जाता है। यह तकनीक मानव विशेषताओं को सीखने और दोहराने के लिए छवियों और ऑडियो के विशाल डेटासेट पर प्रशिक्षित तंत्रिका नेटवर्क पर निर्भर करती है।

प्रौद्योगिकी विनियमन विभाग के एक प्रवक्ता ने जारी एक बयान में कहा, "हम ग्रोके के दुर्भावनापूर्ण उद्देश्यों के लिए हथियार के रूप में इस्तेमाल किए जाने की संभावना से बहुत चिंतित हैं।" "जिस आसानी से убедительные डीपफेक बनाए जा सकते हैं और X पर प्रसारित किए जा सकते हैं, वह सार्वजनिक विश्वास और सुरक्षा के लिए एक महत्वपूर्ण खतरा है।"

X के प्रतिनिधियों ने सरकार की चिंताओं को स्वीकार किया और कहा कि वे ग्रोके से जुड़े जोखिमों को कम करने के लिए सक्रिय रूप से काम कर रहे हैं। X की ट्रस्ट एंड सेफ्टी टीम के एक बयान में कहा गया, "हम अपने प्लेटफॉर्म पर AI के जिम्मेदार उपयोग को सुनिश्चित करने के लिए प्रतिबद्ध हैं।" "हम डीपफेक की पहचान करने और हटाने के लिए उन्नत पहचान तंत्र और सामग्री मॉडरेशन नीतियों को लागू कर रहे हैं जो हमारी सेवा की शर्तों का उल्लंघन करते हैं।"

ग्रोके, जिसे पिछले साल के अंत में लॉन्च किया गया था, एक AI चैटबॉट है जो X की प्रीमियम सदस्यता सेवा में एकीकृत है। इसे सवालों के जवाब देने, रचनात्मक सामग्री उत्पन्न करने और उपयोगकर्ताओं के साथ बातचीत करने के लिए डिज़ाइन किया गया है। जबकि X ग्रोके को मनोरंजन और सूचना के लिए एक उपकरण के रूप में बढ़ावा देता है, आलोचकों का तर्क है कि इसकी क्षमताओं का उपयोग आसानी से गलत सूचना बनाने और फैलाने के लिए किया जा सकता है।

उद्योग विश्लेषकों का सुझाव है कि सरकार का हस्तक्षेप AI-जनित सामग्री से जुड़ी बढ़ती नियामक चुनौतियों को उजागर करता है। यूनिवर्सिटी ऑफ कैलिफोर्निया, बर्कले में AI नैतिकता की प्रोफेसर डॉ. अन्या शर्मा ने कहा, "यह एक निर्णायक क्षण है।" "यह AI प्रौद्योगिकियों के विकास और तैनाती को नियंत्रित करने के लिए स्पष्ट कानूनी ढांचे और नैतिक दिशानिर्देशों की तत्काल आवश्यकता को रेखांकित करता है, खासकर सोशल मीडिया प्लेटफॉर्म के संदर्भ में।"

सरकारी अधिकारियों की मांग ऐसे समय में आई है जब कई देश डीपफेक और AI-जनित गलत सूचना के अन्य रूपों को विनियमित करने के तरीके से जूझ रहे हैं। उदाहरण के लिए, यूरोपीय संघ अपने प्रस्तावित AI अधिनियम के तहत AI प्रौद्योगिकियों पर सख्त नियमों पर विचार कर रहा है।

X को मुक्त भाषण के प्रति अपनी प्रतिबद्धता को हानिकारक सामग्री से उपयोगकर्ताओं की रक्षा करने की आवश्यकता के साथ संतुलित करने की चुनौती का सामना करना पड़ता है। कंपनी की वर्तमान सामग्री मॉडरेशन नीतियां धोखा देने या गुमराह करने के इरादे से डीपफेक के निर्माण और वितरण को प्रतिबंधित करती हैं, लेकिन AI प्रौद्योगिकी की तेजी से विकसित हो रही प्रकृति के कारण प्रवर्तन मुश्किल साबित हुआ है।

X ने कहा कि वह डीपफेक समस्या को हल करने के लिए कई तकनीकी समाधानों की खोज कर रहा है, जिसमें AI-जनित सामग्री को वॉटरमार्क करना, अधिक परिष्कृत पहचान एल्गोरिदम विकसित करना और उन उपयोगकर्ताओं के लिए सख्त सत्यापन प्रक्रियाओं को लागू करना शामिल है जो संभावित रूप से भ्रामक सामग्री बनाते या साझा करते हैं। कंपनी ने इन उपायों के कार्यान्वयन के लिए कोई विशिष्ट समयरेखा प्रदान नहीं की। प्रौद्योगिकी विनियमन विभाग ने संकेत दिया कि वह X की प्रगति की निगरानी करना जारी रखेगा और यदि आवश्यक हो तो आगे की कार्रवाई पर विचार करेगा।