ब्रिटेन के संचार नियामक, ऑफ़कॉम ने एलन मस्क के सोशल मीडिया प्लेटफ़ॉर्म एक्स (X), जिसे पहले ट्विटर के नाम से जाना जाता था, के ख़िलाफ़ जाँच शुरू कर दी है। यह जाँच एक्स के कृत्रिम बुद्धिमत्ता (आर्टिफिशियल इंटेलिजेंस) चैटबॉट, ग्रोके (Grok) द्वारा उत्पन्न यौन रूप से स्पष्ट डीपफेक के प्रसार के बारे में चिंताओं के बाद शुरू की गई है। बुधवार को घोषित की गई यह जाँच इस बात पर केंद्रित है कि क्या एक्स ने अपने उपयोगकर्ताओं, विशेष रूप से बच्चों को, एआई टूल द्वारा उत्पन्न हानिकारक सामग्री से पर्याप्त रूप से सुरक्षित किया है।

जाँच में ऑनलाइन सुरक्षा अधिनियम (Online Safety Act) के साथ एक्स के अनुपालन की जाँच की जाएगी, जो अवैध और हानिकारक सामग्री से उपयोगकर्ताओं की सुरक्षा के लिए प्लेटफ़ॉर्म पर कानूनी दायित्व डालता है। ऑफ़कॉम विशेष रूप से एआई-जनित यौन डीपफेक की पहचान करने और हटाने के लिए एक्स की प्रणालियों और प्रक्रियाओं की प्रभावशीलता का आकलन करेगा, साथ ही उपयोगकर्ताओं को ऐसी सामग्री के संपर्क में आने से रोकने के लिए इसके उपायों का भी आकलन करेगा।

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमेंटो (portmanteau) है, जो सिंथेटिक मीडिया है जिसमें किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी और की समानता से बदल दिया जाता है। यह तकनीक, परिष्कृत एआई एल्गोरिदम द्वारा संचालित, यथार्थवादी लेकिन पूरी तरह से मनगढ़ंत सामग्री बनाने के लिए इस्तेमाल की जा सकती है। जबकि डीपफेक के मनोरंजन और शिक्षा सहित विभिन्न संभावित अनुप्रयोग हैं, वे महत्वपूर्ण जोखिम भी पैदा करते हैं, खासकर जब गैर-सहमति वाली पोर्नोग्राफी बनाने या गलत सूचना फैलाने के लिए उपयोग किए जाते हैं। जिस सापेक्ष आसानी से अब убедительные डीपफेक बनाए और प्रसारित किए जा सकते हैं, उसने व्यक्तियों और समाज को नुकसान पहुंचाने की उनकी क्षमता के बारे में गंभीर चिंताएं बढ़ा दी हैं।

ऑफ़कॉम के एक प्रवक्ता ने एक बयान में कहा, "बच्चों को ऑनलाइन सुरक्षित रखना अहस्तांतरणीय है, और ऑनलाइन सुरक्षा अधिनियम हमें प्लेटफ़ॉर्म को जवाबदेह ठहराने के उपकरण देता है।" "हम यह सुनिश्चित करने के लिए एक्स की जाँच कर रहे हैं कि वे हानिकारक एआई-जनित सामग्री के प्रसार को रोकने के लिए आवश्यक कदम उठा रहे हैं।"

एक्स ने अभी तक ऑफ़कॉम की जाँच के बारे में कोई आधिकारिक बयान जारी नहीं किया है। हालाँकि, एलन मस्क ने पहले कहा है कि एक्स अपने प्लेटफ़ॉर्म पर हानिकारक सामग्री के प्रसार का मुकाबला करने के लिए प्रतिबद्ध है और अपनी सामग्री मॉडरेशन प्रणालियों को बेहतर बनाने के लिए सक्रिय रूप से काम कर रहा है।

यह जाँच एआई-जनित सामग्री से जुड़े संभावित नुकसानों की बढ़ती वैश्विक जाँच के बीच आई है। दुनिया भर की सरकारें और नियामक निकाय इस तेजी से विकसित हो रही तकनीक को विनियमित करने के तरीके से जूझ रहे हैं, साथ ही नवाचार को भी बढ़ावा दे रहे हैं। उदाहरण के लिए, यूरोपीय संघ अपने एआई अधिनियम को अंतिम रूप दे रहा है, जो एआई विकास और तैनाती के लिए एक व्यापक कानूनी ढांचा स्थापित करेगा।

ऑफ़कॉम की जाँच के परिणाम एक्स और अन्य सोशल मीडिया प्लेटफ़ॉर्म के लिए महत्वपूर्ण निहितार्थ हो सकते हैं जो तेजी से एआई को अपनी सेवाओं में शामिल कर रहे हैं। यदि ऑफ़कॉम को पता चलता है कि एक्स अपने उपयोगकर्ताओं को हानिकारक एआई-जनित सामग्री से बचाने में विफल रहा है, तो उसे भारी जुर्माना का सामना करना पड़ सकता है और उसे सख्त सामग्री मॉडरेशन उपाय लागू करने की आवश्यकता हो सकती है। जाँच जारी है, और ऑफ़कॉम से आने वाले महीनों में अपने निष्कर्षों पर एक अपडेट प्रदान करने की उम्मीद है।