ब्रिटेन के संचार नियामक, ऑफ़कॉम ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स (X), जिसे पहले ट्विटर के नाम से जाना जाता था, के खिलाफ जांच शुरू की है। यह जांच एक्स (X) के आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोके (Grok) द्वारा उत्पन्न यौन रूप से स्पष्ट डीपफेक के प्रसार के बारे में चिंताओं के बाद शुरू की गई है। बुधवार को घोषित की गई यह जांच इस बात पर केंद्रित है कि क्या एक्स (X) के पास ऑनलाइन सुरक्षा अधिनियम (Online Safety Act) का उल्लंघन करते हुए, एआई-जनित यौन सामग्री, विशेष रूप से डीपफेक के निर्माण और वितरण को रोकने के लिए पर्याप्त सिस्टम हैं।

पिछले साल पारित ऑनलाइन सुरक्षा अधिनियम (Online Safety Act) सोशल मीडिया प्लेटफॉर्म पर उपयोगकर्ताओं को अवैध और हानिकारक सामग्री से बचाने के लिए कानूनी कर्तव्य का भार डालता है। ऑफ़कॉम के पास अधिनियम के उल्लंघन के लिए कंपनियों पर उनके वैश्विक कारोबार का 10% तक जुर्माना लगाने की शक्ति है। यह नए कानून के तहत एआई-जनित सामग्री की पहली बड़ी जांचों में से एक है।

डीपफेक, "डीप लर्निंग" और "फेक" शब्दों का मिश्रण है, जो सिंथेटिक मीडिया है जिसमें किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी अन्य व्यक्ति की समानता से बदल दिया जाता है। इस तकनीक, जो परिष्कृत एआई एल्गोरिदम द्वारा संचालित है, ने दुरुपयोग की संभावना के बारे में महत्वपूर्ण चिंताएं जताई हैं, जिसमें गैर-सहमति वाली पोर्नोग्राफी का निर्माण और गलत सूचना का प्रसार शामिल है। एक्स (X) का एआई चैटबॉट ग्रोके (Grok) उपयोगकर्ता संकेतों के आधार पर टेक्स्ट और इमेज उत्पन्न करने के लिए डिज़ाइन किया गया है। चिंताएं उठी हैं कि उपयोगकर्ता व्यक्तियों के यथार्थवादी और यौन रूप से स्पष्ट डीपफेक बनाने के लिए ग्रोके (Grok) का शोषण कर रहे हैं, अक्सर उनकी जानकारी या सहमति के बिना।

ऑफ़कॉम के एक प्रवक्ता ने एक बयान में कहा, "उपयोगकर्ताओं को ऑनलाइन अवैध और हानिकारक सामग्री से बचाना हमारी सर्वोच्च प्राथमिकता है।" "हम जांच कर रहे हैं कि क्या एक्स (X) ने अपने प्लेटफॉर्म पर एआई-जनित यौन डीपफेक से उत्पन्न जोखिमों को दूर करने के लिए पर्याप्त कदम उठाए हैं। यह एक नया और तेजी से विकसित हो रहा क्षेत्र है, और हमें यह सुनिश्चित करने की आवश्यकता है कि ऑनलाइन प्लेटफॉर्म तदनुसार अपने सुरक्षा उपायों को अपना रहे हैं।"

एक्स (X) ने अभी तक ऑफ़कॉम जांच के बारे में कोई आधिकारिक बयान जारी नहीं किया है। हालांकि, एलन मस्क ने पहले प्लेटफॉर्म पर एआई के दुरुपयोग का मुकाबला करने की अपनी प्रतिबद्धता बताई है। कंपनी ने एआई-जनित सामग्री का पता लगाने और हटाने के लिए कुछ उपाय लागू किए हैं जो इसकी नीतियों का उल्लंघन करते हैं, लेकिन आलोचकों का तर्क है कि ये उपाय अपर्याप्त हैं।

यह जांच एआई-जनित सामग्री को विनियमित करने और इन प्रौद्योगिकियों के दुरुपयोग की संभावना की बढ़ती चुनौतियों पर प्रकाश डालती है। विशेषज्ञ हानिकारक डीपफेक के निर्माण और प्रसार को रोकने के लिए मजबूत सुरक्षा उपायों और नैतिक दिशानिर्देशों की आवश्यकता पर जोर देते हैं। ऑक्सफोर्ड विश्वविद्यालय में एआई नैतिकता की प्रोफेसर डॉ. एमिली कार्टर ने कहा, "यह जांच सोशल मीडिया प्लेटफॉर्म को उनकी साइटों पर होस्ट की गई सामग्री के लिए जवाबदेह ठहराने में एक महत्वपूर्ण कदम है।" "यह एक स्पष्ट संदेश भेजता है कि कंपनियों को एआई-जनित सामग्री से जुड़े जोखिमों को सक्रिय रूप से संबोधित करना चाहिए और उपयोगकर्ताओं को नुकसान से बचाना चाहिए।"

ऑफ़कॉम जांच के परिणाम एक्स (X) और एआई का उपयोग करने वाले अन्य सोशल मीडिया प्लेटफॉर्म के लिए महत्वपूर्ण निहितार्थ हो सकते हैं। इससे एआई-जनित सामग्री के सख्त नियम और बढ़ी हुई जांच हो सकती है, जिससे ऑनलाइन सुरक्षा और सामग्री मॉडरेशन का भविष्य संभावित रूप से आकार ले सकता है। ऑफ़कॉम से आने वाले महीनों में अपने निष्कर्ष जारी करने की उम्मीद है। जांच में संभवतः एक्स (X) की सामग्री मॉडरेशन नीतियों, इसकी एआई डिटेक्शन क्षमताओं और डीपफेक सामग्री की उपयोगकर्ता रिपोर्टों पर इसकी प्रतिक्रिया पर ध्यान केंद्रित किया जाएगा।