सरकारी अधिकारियों ने एलोन मस्क के सोशल मीडिया प्लेटफॉर्म X से उन "भयानक" डीपफेक के प्रसार को संबोधित करने की मांग की है, जिन्हें प्लेटफॉर्म के आर्टिफिशियल इंटेलिजेंस चैटबॉट, ग्रोोक द्वारा उत्पन्न किया गया है। चिंताएं इन एआई-जनित छवियों और वीडियो की गलत सूचना फैलाने और प्रतिष्ठा को नुकसान पहुंचाने की क्षमता पर केंद्रित हैं, खासकर आगामी चुनावों से पहले।

सीनेटरों के एक द्विदलीय समूह द्वारा कल देर रात जारी की गई मांग में X से ग्रोोक का उपयोग करके डीपफेक के निर्माण और प्रसार के खिलाफ सख्त सुरक्षा उपाय लागू करने का आह्वान किया गया है। विशेष रूप से, सीनेटर X से अपनी सामग्री मॉडरेशन नीतियों को बढ़ाने, अपनी डीपफेक पहचान क्षमताओं में सुधार करने और उपयोगकर्ताओं को संदिग्ध एआई-जनित दुष्प्रचार की रिपोर्ट करने के लिए स्पष्ट तंत्र प्रदान करने का आग्रह कर रहे हैं।

कैलिफ़ोर्निया की डेमोक्रेट सीनेटर सारा चेन ने एक प्रेस विज्ञप्ति में कहा, "एआई तकनीक की तीव्र प्रगति अवसर और चुनौतियां दोनों प्रस्तुत करती है।" "जबकि ग्रोोक में एक मूल्यवान उपकरण बनने की क्षमता है, लेकिन убедительный फिर भी निर्मित सामग्री बनाने के लिए इसका दुरुपयोग गहरा चिंताजनक है। X की यह जिम्मेदारी है कि वह अपने प्लेटफॉर्म को इस तरह से हथियार बनने से रोके।"

डीपफेक, जिन्हें तकनीकी रूप से सिंथेटिक मीडिया के रूप में जाना जाता है, परिष्कृत एआई एल्गोरिदम का उपयोग करके बनाए जाते हैं, जो अक्सर जेनरेटिव एडवर्सरियल नेटवर्क (GANs) जैसी डीप लर्निंग तकनीकों पर आधारित होते हैं। GANs में दो तंत्रिका नेटवर्क, एक जनरेटर और एक डिस्क्रिमिनेटर शामिल होते हैं, जो एक साथ काम करते हैं। जनरेटर सिंथेटिक सामग्री बनाता है, जबकि डिस्क्रिमिनेटर वास्तविक और नकली सामग्री के बीच अंतर करने का प्रयास करता है। इस पुनरावृत्तीय प्रक्रिया के माध्यम से, जनरेटर यथार्थवादी जालसाजी बनाने में तेजी से कुशल हो जाता है। चिंता यह है कि इन जालसाजी का उपयोग व्यक्तियों के प्रतिरूपण, झूठी कहानियों को फैलाने और जनमत कोmanipulate करने के लिए किया जा सकता है।

X ने 2023 के अंत में ग्रोोक को अपने प्रीमियम ग्राहकों के लिए सीधे प्लेटफॉर्म में एकीकृत एक सुविधा के रूप में पेश किया। ग्रोोक को संवादात्मक शैली में सवालों के जवाब देने और वास्तविक समय की जानकारी प्रदान करने के लिए डिज़ाइन किया गया है। जबकि X के पास हानिकारक सामग्री के निर्माण और वितरण को प्रतिबंधित करने वाली नीतियां हैं, आलोचकों का तर्क है कि ये नीतियां एआई-जनित डीपफेक द्वारा प्रस्तुत अनूठी चुनौतियों का समाधान करने के लिए अपर्याप्त हैं। प्लेटफ़ॉर्म वर्तमान में उल्लंघन करने वाली सामग्री की पहचान करने और हटाने के लिए स्वचालित पहचान प्रणालियों और उपयोगकर्ता रिपोर्टों के संयोजन पर निर्भर करता है।

उद्योग विश्लेषकों का सुझाव है कि X की उपयोगकर्ता रिपोर्टिंग पर निर्भरता एक महत्वपूर्ण कमजोरी है, क्योंकि डीपफेक को चिह्नित और हटाए जाने से पहले तेजी से फैल सकता है। इसके अलावा, वर्तमान डीपफेक पहचान तकनीक अचूक नहीं है, और परिष्कृत जालसाजी अक्सर पहचान से बच सकती है। स्टैनफोर्ड विश्वविद्यालय में एआई शोधकर्ता डॉ. डेविड ली बताते हैं, "चुनौती वक्र से आगे रहने की है।" "जैसे-जैसे एआई मॉडल अधिक शक्तिशाली होते जाते हैं, वैसे-वैसे убедительный डीपफेक बनाने की क्षमता भी बढ़ती जाती है। प्लेटफार्मों को अत्याधुनिक पहचान प्रौद्योगिकियों और मजबूत सामग्री मॉडरेशन रणनीतियों में निवेश करने की आवश्यकता है।"

X ने अभी तक सरकार की मांगों पर औपचारिक प्रतिक्रिया जारी नहीं की है। हालाँकि, एक हालिया साक्षात्कार में, सीईओ लिंडा याकारिनो ने कहा कि कंपनी गलत सूचना का मुकाबला करने के लिए प्रतिबद्ध है और एआई द्वारा उत्पन्न चुनौतियों का समाधान करने के लिए सक्रिय रूप से नए तरीकों की खोज कर रही है। याकारिनो ने कहा, "हम इस मुद्दे को बहुत गंभीरता से ले रहे हैं।" "हम अपने प्लेटफॉर्म से डीपफेक का पता लगाने और हटाने के लिए उन्नत तकनीकों को विकसित करने और तैनात करने के लिए काम कर रहे हैं।"

सरकार का हस्तक्षेप एआई और समाज पर इसके संभावित प्रभाव के आसपास बढ़ती नियामक जांच पर प्रकाश डालता है। कई देश वर्तमान में एआई प्रौद्योगिकियों के विकास और तैनाती को विनियमित करने के लिए कानून पर विचार कर रहे हैं, जिसमें डीपफेक और एआई-जनित दुष्प्रचार के अन्य रूपों से जुड़े जोखिमों को संबोधित करने पर विशेष ध्यान दिया गया है। उदाहरण के लिए, यूरोपीय संघ अपने एआई अधिनियम को अंतिम रूप दे रहा है, जिसमें उच्च जोखिम वाले अनुप्रयोगों, जैसे कि चेहरे की पहचान और सामग्री मॉडरेशन में एआई के उपयोग को विनियमित करने के प्रावधान शामिल हैं।

अगले चरणों में संभवतः उठाई गई चिंताओं को दूर करने के लिए एक ठोस योजना विकसित करने के लिए सरकारी अधिकारियों और X प्रतिनिधियों के बीच आगे की चर्चाएं शामिल होंगी। इन चर्चाओं के परिणाम एआई विनियमन के भविष्य और दुष्प्रचार का मुकाबला करने में सोशल मीडिया प्लेटफार्मों की जिम्मेदारी के लिए महत्वपूर्ण निहितार्थ हो सकते हैं।