यूके के संचार नियामक, ऑफकॉम ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर के नाम से जाना जाता था) के खिलाफ जांच शुरू कर दी है। यह जांच एक्स के आर्टिफिशियल इंटेलिजेंस चैटबॉट, ग्रोके द्वारा उत्पन्न यौन रूप से स्पष्ट डीपफेक के प्रसार के बारे में चिंताओं के बाद शुरू की गई है। बुधवार को घोषित की गई यह जांच इस बात पर केंद्रित है कि क्या एक्स के पास इन एआई-जनित छवियों, विशेष रूप से गैर-सहमति वाले व्यक्तियों को दर्शाने वाली छवियों के निर्माण और वितरण को रोकने के लिए पर्याप्त सिस्टम हैं।

यह जांच ऑनलाइन सुरक्षा अधिनियम के साथ एक्स के अनुपालन का आकलन करेगी, जो प्लेटफार्मों पर उपयोगकर्ताओं को अवैध और हानिकारक सामग्री से बचाने के लिए कानूनी कर्तव्य का पालन करने का दायित्व डालता है। ऑफकॉम विशेष रूप से जांच कर रहा है कि क्या एक्स ने बाल यौन शोषण सामग्री और बिना सहमति के डीपफेक के निर्माण और प्रसार सहित अवैध सामग्री के संबंध में अपने दायित्वों का उल्लंघन किया है। एक प्रमुख ध्यान ग्रोके के दुरुपयोग की संभावना पर है ताकि यथार्थवादी लेकिन मनगढ़ंत यौन छवियों को उत्पन्न किया जा सके, जिससे गोपनीयता, प्रतिष्ठा और उत्पीड़न और ब्लैकमेल की संभावना के बारे में गंभीर चिंताएं बढ़ रही हैं।

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमैंटो है, जो सिंथेटिक मीडिया है जिसमें मौजूदा छवि या वीडियो में एक व्यक्ति को किसी और की समानता से बदल दिया जाता है। यह तकनीक परिष्कृत एआई एल्गोरिदम, विशेष रूप से डीप न्यूरल नेटवर्क का लाभ उठाती है, ताकि चेहरे को बदलने या ऑडियो और वीडियो सामग्री में हेरफेर करने के लिए आश्वस्त किया जा सके। जबकि डीपफेक में मनोरंजन और शिक्षा में संभावित अनुप्रयोग हैं, लेकिन इसका दुरुपयोग महत्वपूर्ण जोखिम पैदा करता है। गैर-सहमति वाली अंतरंग छवियों का निर्माण, जिसे अक्सर "बदला पोर्न" डीपफेक के रूप में जाना जाता है, एक बढ़ती चिंता है, क्योंकि ये छवियां पीड़ितों को गंभीर भावनात्मक संकट और प्रतिष्ठा को नुकसान पहुंचा सकती हैं।

ऑफकॉम के एक प्रवक्ता ने एक बयान में कहा, "लोगों को ऑनलाइन अवैध सामग्री से बचाना एक प्राथमिकता है।" "हम यह आकलन करने के लिए एक्स की जांच कर रहे हैं कि क्या उसने अपने प्लेटफॉर्म पर अवैध डीपफेक के निर्माण और प्रसार को रोकने के लिए उचित कदम उठाए हैं।"

एक्स ने अभी तक ऑफकॉम की जांच के बारे में कोई आधिकारिक बयान जारी नहीं किया है। हालांकि, एलन मस्क ने पहले प्लेटफॉर्म पर एआई के दुरुपयोग का मुकाबला करने की अपनी प्रतिबद्धता बताई है। कंपनी की नीतियां ऐसी सामग्री के निर्माण और वितरण को प्रतिबंधित करती हैं जो बच्चों का शोषण, दुर्व्यवहार या खतरे में डालती हैं, और उसने ऐसी सामग्री का पता लगाने और हटाने के लिए उपाय लागू किए हैं। हालांकि, आलोचकों का तर्क है कि ये उपाय एआई-जनित डीपफेक के तेजी से विकसित हो रहे खतरे को दूर करने के लिए अपर्याप्त हैं।

यह जांच एआई के दुरुपयोग की क्षमता की बढ़ती वैश्विक जांच के बीच आई है। दुनिया भर की सरकारें और नियामक निकाय इस बात से जूझ रहे हैं कि एआई नवाचार के लाभों को व्यक्तियों को नुकसान से बचाने की आवश्यकता के साथ कैसे संतुलित किया जाए। उदाहरण के लिए, यूरोपीय संघ अपने एआई अधिनियम को अंतिम रूप दे रहा है, जो उच्च जोखिम वाले एआई सिस्टम पर सख्त नियम लगाएगा, जिसमें डीपफेक उत्पन्न करने के लिए उपयोग किए जाने वाले सिस्टम भी शामिल हैं।

ऑफकॉम की जांच के परिणाम एक्स और अन्य सोशल मीडिया प्लेटफार्मों के लिए महत्वपूर्ण निहितार्थ हो सकते हैं। यदि एक्स को ऑनलाइन सुरक्षा अधिनियम का उल्लंघन करते हुए पाया जाता है, तो उसे भारी जुर्माना भरना पड़ सकता है और अवैध सामग्री के निर्माण और वितरण को रोकने के लिए अधिक मजबूत सुरक्षा उपाय लागू करने की आवश्यकता हो सकती है। जांच चल रही है, और ऑफकॉम ने इसे पूरा करने के लिए कोई समय-सीमा प्रदान नहीं की है। निष्कर्षों से सोशल मीडिया प्लेटफार्मों पर एआई-जनित सामग्री के भविष्य के नियामक दृष्टिकोण प्रभावित होने की संभावना है।