अधिकारियों ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स से ग्रोोक द्वारा उत्पन्न डीपफेक के प्रसार को संबोधित करने की मांग की, जो प्लेटफॉर्म का कृत्रिम बुद्धिमत्ता चैटबॉट है। सरकार ने दुरुपयोग के "भयानक" उदाहरणों का हवाला देते हुए गलत सूचना और संभावित नुकसान के बारे में चिंता जताई।

डिजिटल इंटीग्रिटी विभाग (डीडीआई) द्वारा बुधवार को जारी की गई यह मांग, एक्स पर प्रसारित होने वाले अत्यधिक यथार्थवादी, एआई-जनित वीडियो और छवियों का विवरण देने वाली उपयोगकर्ता रिपोर्टों में वृद्धि के बाद आई है। डीडीआई के अनुसार, इन डीपफेक में अक्सर सार्वजनिक हस्तियां होती हैं और इनका उपयोग झूठी कहानियों या दुर्भावनापूर्ण सामग्री को फैलाने के लिए किया जाता है।

डीडीआई निदेशक अन्या शर्मा ने एक प्रेस विज्ञप्ति में कहा, "हम ग्रोोक के हथियार बनने की संभावना के बारे में गहराई से चिंतित हैं।" "प्रौद्योगिकी अपने आप में हानिकारक नहीं है, लेकिन एक्स पर पर्याप्त सुरक्षा उपायों की कमी के कारण इसका उपयोग बुरे उद्देश्यों के लिए किया जा रहा है। इस खतरे को कम करने के लिए हमें तत्काल कार्रवाई की आवश्यकता है।"

ग्रोोक, मस्क के एक्सएआई द्वारा विकसित एक एआई चैटबॉट है, जिसे एक्स प्रीमियम+ सदस्यता स्तर में एकीकृत किया गया है। इसे सवालों के जवाब देने, रचनात्मक सामग्री उत्पन्न करने और वास्तविक समय की जानकारी प्रदान करने के लिए डिज़ाइन किया गया है। हालांकि, यथार्थवादी छवियों और वीडियो को उत्पन्न करने की इसकी क्षमता ने इसके दुरुपयोग की संभावना के बारे में चिंता जताई है।

तकनीकी विशेषज्ञ बताते हैं कि डीपफेक दृश्य और ऑडियो सामग्री में हेरफेर करने या संश्लेषित करने के लिए परिष्कृत मशीन लर्निंग एल्गोरिदम, विशेष रूप से डीप न्यूरल नेटवर्क का लाभ उठाते हैं। इन एल्गोरिदम को छवियों और वीडियो के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे आश्वस्त करने वाले जालसाजी बनाने में सक्षम होते हैं। अपेक्षाकृत कम लागत और इन प्रौद्योगिकियों की बढ़ती पहुंच ने डीपफेक के उदय में योगदान दिया है।

डीडीआई की मांग कई प्रमुख क्षेत्रों पर केंद्रित है, जिसमें उन्नत सामग्री मॉडरेशन नीतियां, डीपफेक की पहचान करने के लिए बेहतर पहचान एल्गोरिदम और सख्त उपयोगकर्ता सत्यापन प्रोटोकॉल शामिल हैं। सरकार प्लेटफॉर्म पर एआई-जनित सामग्री के उपयोग के बारे में अधिक पारदर्शिता की भी मांग कर रही है।

एक्स ने डीडीआई की मांग पर चिंताओं को स्वीकार करते हुए एक बयान के साथ जवाब दिया। बयान में लिखा था, "हम अपने प्लेटफॉर्म पर डीपफेक के मुद्दे को संबोधित करने के लिए प्रतिबद्ध हैं।" "हम दुर्भावनापूर्ण एआई-जनित सामग्री का पता लगाने और हटाने के लिए नई तकनीकों को विकसित करने और तैनात करने पर सक्रिय रूप से काम कर रहे हैं। हम उपयोगकर्ता सत्यापन को बढ़ाने और जिम्मेदार एआई उपयोग को बढ़ावा देने के तरीकों की भी खोज कर रहे हैं।"

उद्योग विश्लेषकों का सुझाव है कि यह घटना एआई-जनित सामग्री को विनियमित करने की बढ़ती चुनौतियों पर प्रकाश डालती है। स्टैनफोर्ड विश्वविद्यालय में एआई नैतिकता के प्रोफेसर डॉ. बेन कार्टर ने कहा, "एआई तकनीक जिस गति से आगे बढ़ रही है, वह प्रभावी नियामक ढांचे विकसित करने की हमारी क्षमता से आगे निकल रही है।" "इन चुनौतियों का समाधान करने के लिए हमें सरकार, उद्योग और शिक्षा जगत के बीच सहयोग शामिल करने वाले एक बहुआयामी दृष्टिकोण की आवश्यकता है।"

डीडीआई ने एक्स को डीपफेक मुद्दे को संबोधित करने के लिए प्रस्तावित उपायों की रूपरेखा वाली एक विस्तृत योजना प्रस्तुत करने के लिए दो सप्ताह की समय सीमा दी है। डीडीआई के अनुसार, अनुपालन करने में विफलता के परिणामस्वरूप जुर्माना या अन्य नियामक कार्रवाई हो सकती है। स्थिति तरल बनी हुई है, और आने वाले दिनों में एक्स द्वारा सरकार की मांगों का जवाब देने के साथ ही और विकास होने की उम्मीद है।