ब्रिटेन के संचार नियामक, ऑफ़कॉम ने एलन मस्क के सोशल मीडिया प्लेटफ़ॉर्म X, जिसे पहले ट्विटर के नाम से जाना जाता था, के ख़िलाफ़ जाँच शुरू कर दी है। यह जाँच X के आर्टिफिशियल इंटेलिजेंस चैटबॉट, ग्रोके द्वारा उत्पन्न यौन रूप से स्पष्ट डीपफेक के प्रसार के बारे में चिंताओं के बाद शुरू की गई है। बुधवार को घोषित की गई यह जाँच इस बात पर केंद्रित है कि क्या X के पास उपयोगकर्ताओं को हानिकारक सामग्री, विशेष रूप से सहमति के बिना यौन स्थितियों में व्यक्तियों को दर्शाने वाले सिंथेटिक मीडिया से बचाने के लिए पर्याप्त सिस्टम और प्रक्रियाएँ हैं।

यह जाँच ऑनलाइन सुरक्षा अधिनियम के संभावित उल्लंघनों पर केंद्रित है, जो सोशल मीडिया प्लेटफ़ॉर्म पर उपयोगकर्ताओं को अवैध और हानिकारक सामग्री से बचाने के लिए कानूनी कर्तव्य डालता है। ऑफ़कॉम इन नियमों के साथ X के अनुपालन का आकलन करेगा, जिसमें प्लेटफ़ॉर्म के जोखिम आकलन, सामग्री मॉडरेशन नीतियाँ और AI-जनित यौन डीपफेक से संबंधित प्रवर्तन तंत्र शामिल हैं। एक प्रमुख क्षेत्र इस बात पर ध्यान केंद्रित करेगा कि X ऐसी सामग्री की पहचान और उसे कैसे हटाता है, और यह इसे फिर से अपलोड करने से कैसे रोकता है।

डीपफेक, सिंथेटिक मीडिया का एक रूप है, जो अत्यधिक यथार्थवादी लेकिन मनगढ़ंत वीडियो या चित्र बनाने के लिए आर्टिफिशियल इंटेलिजेंस, विशेष रूप से डीप लर्निंग तकनीकों का उपयोग करता है। यौन डीपफेक के संदर्भ में, AI का उपयोग किसी व्यक्ति के चेहरे को यौन गतिविधि में लगे किसी व्यक्ति के शरीर पर आरोपित करने के लिए किया जाता है। यह तकनीक महत्वपूर्ण नैतिक और कानूनी चिंताएँ पैदा करती है, क्योंकि इसका उपयोग गैर-सहमति वाली पोर्नोग्राफी बनाने, प्रतिष्ठा को नुकसान पहुँचाने और पीड़ितों को गंभीर भावनात्मक संकट पहुँचाने के लिए किया जा सकता है। जिस सापेक्ष आसानी से ग्रोके को ऐसी सामग्री उत्पन्न करने के लिए प्रेरित किया जा सकता है, उसने इन चिंताओं को बढ़ा दिया है।

ऑफ़कॉम के एक प्रवक्ता ने कहा, "यौन डीपफेक का निर्माण और वितरण एक गहरा हानिकारक कार्य है, और प्लेटफ़ॉर्म का यह दायित्व है कि वे अपने उपयोगकर्ताओं को इस प्रकार के दुर्व्यवहार से बचाएँ।" "हमारी जाँच में यह जाँच की जाएगी कि क्या X AI-जनित सामग्री से उत्पन्न जोखिमों को दूर करने और अपने उपयोगकर्ताओं की सुरक्षा सुनिश्चित करने के लिए पर्याप्त कदम उठा रहा है।"

X ने अभी तक ऑफ़कॉम की जाँच के बारे में कोई औपचारिक बयान जारी नहीं किया है। हालाँकि, एलन मस्क ने पहले प्लेटफ़ॉर्म पर AI के दुरुपयोग से निपटने की अपनी प्रतिबद्धता बताई है। कंपनी की सामग्री मॉडरेशन नीतियाँ गैर-सहमति वाली स्पष्ट छवियों, जिनमें डीपफेक शामिल हैं, के निर्माण और वितरण को प्रतिबंधित करती हैं। चुनौती AI तकनीक के तेजी से विकास में निहित है, जिससे सिंथेटिक सामग्री का पता लगाना और उसे हटाना तेजी से मुश्किल होता जा रहा है।

AI नैतिकता और नीति के विशेषज्ञों ने ऑफ़कॉम की जाँच का स्वागत किया है, और AI-जनित सामग्री के सामाजिक निहितार्थों को संबोधित करने के लिए नियामक ढाँचे की तत्काल आवश्यकता पर प्रकाश डाला है। ऑक्सफोर्ड इंटरनेट इंस्टीट्यूट में AI गवर्नेंस की विशेषज्ञ शोधकर्ता डॉ. अन्या शर्मा ने कहा, "यह जाँच सोशल मीडिया प्लेटफ़ॉर्म को उनकी साइटों पर साझा की जाने वाली सामग्री के लिए जवाबदेह ठहराने की दिशा में एक महत्वपूर्ण कदम है।" "हमें AI के दुरुपयोग को रोकने और व्यक्तियों को डीपफेक से जुड़े नुकसानों से बचाने के लिए स्पष्ट दिशानिर्देशों और मजबूत प्रवर्तन तंत्रों की आवश्यकता है।"

जाँच में कई महीने लगने की उम्मीद है, और यदि ऑफ़कॉम को प्लेटफ़ॉर्म ऑनलाइन सुरक्षा अधिनियम का उल्लंघन करते हुए पाया जाता है, तो उसके पास X पर महत्वपूर्ण जुर्माना लगाने की शक्ति है। इस जाँच के परिणाम का यूके और अंतरराष्ट्रीय स्तर पर सोशल मीडिया प्लेटफ़ॉर्म पर AI-जनित सामग्री के विनियमन के लिए दूरगामी प्रभाव हो सकता है। यह तकनीकी कंपनियों पर तेजी से बढ़ती AI तकनीकों द्वारा उत्पन्न नैतिक और सामाजिक चुनौतियों का सक्रिय रूप से समाधान करने के लिए बढ़ते दबाव को भी रेखांकित करता है। ऑफ़कॉम जाँच पूरी होने पर अपने निष्कर्ष प्रकाशित करेगा।