ब्रिटेन के संचार नियामक, ऑफ़कॉम ने एलन मस्क के सोशल मीडिया प्लेटफ़ॉर्म X (जिसे पहले ट्विटर के नाम से जाना जाता था) के ख़िलाफ़ जाँच शुरू की है। यह जाँच X के कृत्रिम बुद्धिमत्ता चैटबॉट, ग्रोके द्वारा उत्पन्न यौन रूप से स्पष्ट डीपफेक के प्रसार के बारे में चिंताओं के बाद शुरू की गई है। बुधवार को घोषित की गई जाँच इस बात पर केंद्रित है कि क्या X के पास AI-जनित यौन सामग्री, विशेष रूप से डीपफेक के निर्माण और प्रसार को रोकने के लिए पर्याप्त सिस्टम हैं, जो ऑनलाइन सुरक्षा अधिनियम का उल्लंघन करते हैं।
ऑनलाइन सुरक्षा अधिनियम, जो इस वर्ष की शुरुआत में लागू हुआ, सोशल मीडिया प्लेटफ़ॉर्म पर उपयोगकर्ताओं को अवैध और हानिकारक सामग्री से बचाने के लिए कानूनी कर्तव्य डालता है। ऑफ़कॉम के पास अधिनियम के उल्लंघन के लिए कंपनियों पर उनके वैश्विक कारोबार का 10% तक जुर्माना लगाने की शक्ति है। यह नई कानून के तहत AI-जनित सामग्री पर विशेष रूप से ध्यान केंद्रित करने वाली पहली बड़ी जाँचों में से एक है।
डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमैंटो है, जो सिंथेटिक मीडिया है जिसमें किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी और की समानता से बदल दिया जाता है। यह तकनीक चेहरे बदलने या ऑडियो और वीडियो सामग्री में हेरफेर करने के लिए परिष्कृत कृत्रिम बुद्धिमत्ता एल्गोरिदम, विशेष रूप से डीप न्यूरल नेटवर्क का उपयोग करती है। जबकि डीपफेक के वैध उपयोग हैं, जैसे कि फिल्म निर्माण और कलात्मक अभिव्यक्ति में, वे महत्वपूर्ण जोखिम भी पैदा करते हैं, जिसमें गैर-सहमति वाली पोर्नोग्राफी का निर्माण, गलत सूचना का प्रसार और प्रतिष्ठा को नुकसान पहुंचाने की संभावना शामिल है।
ऑफ़कॉम के एक प्रवक्ता ने कहा, "उपयोगकर्ताओं को ऑनलाइन अवैध और हानिकारक सामग्री से बचाना हमारी सर्वोच्च प्राथमिकता है।" "हम यह आकलन करने के लिए X की जाँच कर रहे हैं कि क्या वे AI-जनित यौन डीपफेक के प्रसार को रोकने के लिए ऑनलाइन सुरक्षा अधिनियम के तहत अपनी दायित्वों को पूरा कर रहे हैं। यह एक नया और तेजी से विकसित हो रहा क्षेत्र है, और हमें यह सुनिश्चित करने की आवश्यकता है कि प्लेटफ़ॉर्म अपने उपयोगकर्ताओं की सुरक्षा के लिए उचित कदम उठा रहे हैं।"
X ने अभी तक जाँच के बारे में कोई आधिकारिक बयान जारी नहीं किया है। हालाँकि, एलन मस्क ने पहले प्लेटफ़ॉर्म पर AI के दुरुपयोग का मुकाबला करने की अपनी प्रतिबद्धता बताई है। X का AI चैटबॉट, ग्रोके, पिछले साल के अंत में लॉन्च किया गया था और इसे संवादात्मक और कभी-कभी हास्यपूर्ण तरीके से सवालों के जवाब देने के लिए डिज़ाइन किया गया है। हालाँकि, हानिकारक सामग्री उत्पन्न करने सहित दुर्भावनापूर्ण उद्देश्यों के लिए इसका फायदा उठाने की संभावना के बारे में चिंताएँ जताई गई हैं।
AI नैतिकता और ऑनलाइन सुरक्षा के विशेषज्ञों ने ऑफ़कॉम की जाँच का स्वागत किया है। ऑक्सफोर्ड इंटरनेट इंस्टीट्यूट में AI गवर्नेंस की विशेषज्ञ शोधकर्ता डॉ. एमिली कार्टर ने कहा, "सोशल मीडिया प्लेटफ़ॉर्म को उनकी साइटों पर उत्पन्न और साझा की जाने वाली सामग्री के लिए जवाबदेह ठहराने में यह एक महत्वपूर्ण कदम है।" "AI तकनीक की तेजी से प्रगति के लिए दुरुपयोग के जोखिमों को कम करने के लिए सक्रिय विनियमन की आवश्यकता है, खासकर डीपफेक और गैर-सहमति वाली इमेजरी के संदर्भ में।"
जाँच में संभवतः X की सामग्री मॉडरेशन नीतियों, इसकी AI पहचान क्षमताओं और हानिकारक सामग्री की रिपोर्टों का जवाब देने के लिए इसकी प्रक्रियाओं का गहन मूल्यांकन शामिल होगा। ऑफ़कॉम उन उपायों की भी जाँच करेगा जो X ने ग्रोके द्वारा डीपफेक के निर्माण और प्रसार को रोकने के लिए किए हैं। जाँच के परिणाम का AI विनियमन के भविष्य और सिंथेटिक मीडिया के युग में सोशल मीडिया प्लेटफ़ॉर्म की जिम्मेदारियों पर महत्वपूर्ण प्रभाव पड़ सकता है। ऑफ़कॉम आने वाले महीनों में अपने निष्कर्षों पर एक अपडेट प्रदान करने की उम्मीद है।
Discussion
Join the conversation
Be the first to comment