अधिकारियों ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स से ग्रोोक द्वारा उत्पन्न डीपफेक के प्रसार को संबोधित करने की मांग की, जो प्लेटफॉर्म का कृत्रिम बुद्धिमत्ता चैटबॉट है, और स्थिति को "भयानक" बताया। बुधवार को जारी की गई यह मांग, उपयोगकर्ता रिपोर्टों में वृद्धि के बाद आई है जिसमें ग्रोोक का उपयोग यथार्थवादी लेकिन मनगढ़ंत छवियों और वीडियो, विशेष रूप से सार्वजनिक हस्तियों के, बनाने और प्रसारित करने के लिए किया जा रहा है।

सरकार की चिंता इन डीपफेक के गलत सूचना फैलाने, जनमत कोmanipulate करने और प्रतिष्ठा को नुकसान पहुंचाने की क्षमता पर केंद्रित है। डीपफेक, जिन्हें तकनीकी रूप से सिंथेटिक मीडिया के रूप में जाना जाता है, दृश्य और ऑडियो सामग्री को me convincing ढंग से बदलने या गढ़ने के लिए उन्नत मशीन लर्निंग तकनीकों, विशेष रूप से डीप लर्निंग एल्गोरिदम का उपयोग करते हैं। ग्रोोक, जो एक बड़े भाषा मॉडल (एलएलएम) द्वारा संचालित है, टेक्स्ट प्रॉम्प्ट से छवियों और वीडियो उत्पन्न कर सकता है, जिससे यह डीपफेक बनाने के लिए आसानी से सुलभ उपकरण बन जाता है।

नियामक निकाय के एक प्रवक्ता ने कहा, "जिस आसानी से ग्रोोक का उपयोग इन भ्रामक सामग्रियों को उत्पन्न करने के लिए किया जा सकता है, वह बहुत परेशान करने वाला है।" "एक्स की जिम्मेदारी है कि वह अपने एआई उपकरणों के दुरुपयोग को रोकने के लिए सुरक्षा उपाय लागू करे।" प्रवक्ता ने आगे कहा कि अगर एक्स इस मुद्दे को पर्याप्त रूप से संबोधित करने में विफल रहता है तो सरकार नियामक उपायों पर विचार कर रही है।

एक्स के प्रतिनिधियों ने सरकार की चिंताओं को स्वीकार किया और कहा कि वे समस्या को कम करने के लिए सक्रिय रूप से काम कर रहे हैं। एक्स की संचार टीम द्वारा जारी एक बयान में कहा गया, "हम ग्रोोक के जिम्मेदार उपयोग को सुनिश्चित करने के लिए प्रतिबद्ध हैं और लगातार अपनी पहचान और रोकथाम तंत्र में सुधार कर रहे हैं।" कंपनी ने कई उपाय किए जा रहे हैं, जिनमें इसकी सामग्री मॉडरेशन नीतियों को बढ़ाना, इसके डीपफेक पहचान एल्गोरिदम में सुधार करना और सख्त उपयोगकर्ता सत्यापन प्रोटोकॉल लागू करना शामिल है।

हालांकि, विशेषज्ञों का तर्क है कि डीपफेक का पता लगाना और उन्हें हटाना एक जटिल और चल रही चुनौती है। डीपफेक बनाने के लिए उपयोग की जाने वाली तकनीक लगातार विकसित हो रही है, जिससे पहचान एल्गोरिदम के लिए गति बनाए रखना मुश्किल हो जाता है। इसके अलावा, एक्स जैसे प्लेटफार्मों पर उत्पन्न सामग्री की भारी मात्रा मैनुअल समीक्षा को अव्यावहारिक बना देती है।

इंस्टीट्यूट फॉर टेक्नोलॉजी एंड सोसाइटी में एआई एथिक्स शोधकर्ता डॉ. अन्या शर्मा ने समझाया, "यह एक हथियारों की दौड़ है।" "जैसे-जैसे पहचान के तरीके बेहतर होते हैं, वैसे-वैसे डीपफेक बनाने के लिए उपयोग की जाने वाली तकनीकें भी बेहतर होती हैं। इसके लिए तकनीकी समाधान, मीडिया साक्षरता पहल और स्पष्ट कानूनी ढांचे सहित एक बहुआयामी दृष्टिकोण की आवश्यकता है।"

यह घटना तेजी से आगे बढ़ रही एआई तकनीकों के व्यापक सामाजिक निहितार्थों पर प्रकाश डालती है। जबकि एआई कई लाभ प्रदान करता है, यह गलत सूचना, गोपनीयता और सुरक्षा से संबंधित नई चुनौतियां भी प्रस्तुत करता है। एक्स पर सरकार की मांग तकनीकी कंपनियों पर इन चुनौतियों का सक्रिय रूप से समाधान करने और एआई उपकरणों के जिम्मेदार विकास और तैनाती को सुनिश्चित करने के लिए बढ़ते दबाव को रेखांकित करती है।

स्थिति अभी भी तरल है, सरकारी अधिकारियों और एक्स के प्रतिनिधियों के बीच चल रही चर्चाओं के साथ। एक्स के शमन प्रयासों की प्रभावशीलता की बारीकी से निगरानी की जाएगी, और आगे नियामक कार्रवाई की संभावना बनी हुई है। परिणाम एक मिसाल कायम कर सकता है कि सरकारें भविष्य में सोशल मीडिया प्लेटफॉर्म पर एआई-संचालित सामग्री निर्माण को कैसे विनियमित करती हैं।