सरकारी अधिकारियों ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स से उन "भयानक" डीपफेक के प्रसार को संबोधित करने की मांग की है, जिन्हें प्लेटफॉर्म के आर्टिफिशियल इंटेलिजेंस चैटबॉट, ग्रोोक द्वारा उत्पन्न किया जा रहा है। यह मांग एक्स पर अत्यधिक यथार्थवादी और अक्सर दुर्भावनापूर्ण एआई-जनित सामग्री के प्रसार के बाद आई है, जिससे गलत सूचना और व्यक्तियों और संस्थानों को संभावित नुकसान के बारे में चिंताएं बढ़ रही हैं।

मूल मुद्दा ग्रोोक की आश्वस्त करने वाले टेक्स्ट, इमेज और यहां तक कि ऑडियो उत्पन्न करने की क्षमता के इर्द-गिर्द घूमता है, जिसका उपयोग व्यक्तियों का प्रतिरूपण करने, झूठी कहानियों को फैलाने या जनमत कोmanipulate करने के लिए किया जा सकता है। इस संदर्भ में, डीपफेक, उन्नत मशीन लर्निंग तकनीकों, विशेष रूप से जेनरेटिव एडवर्सैरियल नेटवर्क (GANs) का लाभ उठाते हैं, ताकि सिंथेटिक मीडिया बनाया जा सके जिसे प्रामाणिक सामग्री से अलग करना मुश्किल है। GANs में दो न्यूरल नेटवर्क, एक जनरेटर और एक डिस्क्रिमिनेटर शामिल होते हैं, जो एक-दूसरे के खिलाफ प्रतिस्पर्धा करते हैं। जनरेटर नकली सामग्री बनाता है, जबकि डिस्क्रिमिनेटर इसे नकली के रूप में पहचानने का प्रयास करता है। इस पुनरावृत्त प्रक्रिया के माध्यम से, जनरेटर यथार्थवादी जालसाजी बनाने में तेजी से कुशल हो जाता है।

सरकारी निरीक्षण समिति के एक प्रवक्ता ने पृष्ठभूमि पर बात करते हुए कहा, "ग्रोोक-जनित डीपफेक के साथ हम जिस स्तर की परिष्कार देख रहे हैं, वह बहुत परेशान करने वाला है।" "ये सिर्फ साधारण हेरफेर नहीं हैं; ये अत्यधिक आश्वस्त करने वाले निर्माण हैं जिनके गंभीर परिणाम हो सकते हैं।"

एक्स का ग्रोोक एआई, जिसे चैटजीपीटी और गूगल के जेमिनी जैसे अन्य एआई चैटबॉट के प्रतियोगी के रूप में रखा गया है, का उद्देश्य उपयोगकर्ताओं को जानकारी प्रदान करना, रचनात्मक सामग्री उत्पन्न करना और बातचीत में शामिल होना है। हालांकि, इसकी क्षमताओं का जल्दी से भ्रामक सामग्री का उत्पादन करने के लिए शोषण किया गया है। उत्पाद विवरण इंगित करते हैं कि ग्रोोक को टेक्स्ट और कोड के एक विशाल डेटासेट पर प्रशिक्षित किया गया है, जिससे यह मानव-गुणवत्ता वाला टेक्स्ट उत्पन्न करने और यहां तक कि विभिन्न लेखन शैलियों की नकल करने में सक्षम है। यह शक्तिशाली तकनीक, संभावित लाभों की पेशकश करते हुए, यदि ठीक से प्रबंधित नहीं की जाती है तो महत्वपूर्ण जोखिम भी प्रस्तुत करती है।

उद्योग विश्लेषकों का सुझाव है कि यह घटना तकनीकी नवाचार और जिम्मेदार एआई विकास की आवश्यकता के बीच बढ़ते तनाव को उजागर करती है। इंस्टीट्यूट फॉर टेक्नोलॉजी एंड सोसाइटी में एक प्रमुख एआई नैतिकता शोधकर्ता डॉ. अन्या शर्मा ने कहा, "एआई की तेजी से उन्नति हमारी संभावित दुरुपयोग को विनियमित और नियंत्रित करने की क्षमता से आगे निकल रही है।" "एक्स जैसे प्लेटफार्मों की जिम्मेदारी है कि वे अपने एआई उपकरणों को हथियार बनने से रोकने के लिए मजबूत सुरक्षा उपाय लागू करें।"

एक्स ने सरकार की मांगों का जवाब देते हुए कहा है कि वह एआई-जनित डीपफेक के लिए अपनी पहचान और हटाने की क्षमताओं में सुधार करने के लिए सक्रिय रूप से काम कर रहा है। कंपनी ने अपनी सामग्री मॉडरेशन नीतियों को बढ़ाने, एआई-संचालित पहचान उपकरणों में निवेश करने और डीपफेक का मुकाबला करने के लिए सर्वोत्तम प्रथाओं को विकसित करने के लिए उद्योग विशेषज्ञों के साथ सहयोग करने की योजना की रूपरेखा दी। हालांकि, आलोचकों का तर्क है कि ये उपाय अपर्याप्त हैं और एक्स को हानिकारक एआई-जनित सामग्री के निर्माण और प्रसार को रोकने के लिए पहले स्थान पर अधिक सक्रिय दृष्टिकोण अपनाने की आवश्यकता है।

वर्तमान स्थिति यह है कि सरकारी अधिकारियों और एक्स प्रतिनिधियों के बीच चर्चा जारी है। सरकार संभावित नियामक कार्रवाई पर विचार कर रही है यदि एक्स इस मुद्दे को पर्याप्त रूप से संबोधित करने में विफल रहता है। भविष्य के विकास में एआई-संचालित प्लेटफार्मों की बढ़ी हुई जांच और एआई प्रौद्योगिकियों के विकास और तैनाती में अधिक पारदर्शिता और जवाबदेही के लिए एक धक्का शामिल होने की संभावना है। यह घटना डीपफेक द्वारा उत्पन्न चुनौतियों और उनकी संभावित क्षति को कम करने के लिए प्रभावी समाधानों की तत्काल आवश्यकता की एक गंभीर याद दिलाती है।