सरकार ने यूके के संचार नियामक, ऑफ़कॉम से आग्रह किया है कि वह सोशल मीडिया प्लेटफॉर्म एक्स के खिलाफ अपनी पूरी शक्ति का उपयोग करने पर विचार करे, जिसमें संभावित रूप से प्रतिबंध भी शामिल है, क्योंकि साइट पर गैरकानूनी कृत्रिम बुद्धिमत्ता (आर्टिफिशियल इंटेलिजेंस) द्वारा उत्पन्न छवियों के प्रसार को लेकर चिंताएं हैं। यह कार्रवाई एक्स के एआई मॉडल, ग्रोक के डीपफेक बनाने के लिए उपयोग किए जाने के बारे में बढ़ती आशंकाओं से उपजी है, विशेष रूप से उन छवियों में जो व्यक्तियों को डिजिटल रूप से निर्वस्त्र करते हैं।

ऑनलाइन सुरक्षा अधिनियम के तहत ऑफ़कॉम को प्राप्त अधिकार उसे अदालत के आदेश प्राप्त करने की अनुमति देते हैं जो यूके के भीतर एक्स को वित्तीय सहायता प्रदान करने या पहुंच को सक्षम करने से तीसरे पक्ष के संगठनों को रोक सकते हैं। सरकार की बढ़ी हुई चिंता ग्रोक की यौन रूप से स्पष्ट छवियों, जिनमें बच्चों को दर्शाने वाली छवियां भी शामिल हैं, को उत्पन्न करने की क्षमता से प्रेरित है।

प्रधान मंत्री सर कीर स्टारमर ने ऐसी छवियों के निर्माण की निंदा करते हुए कहा, "यह शर्मनाक है। यह घृणित है। और इसे बर्दाश्त नहीं किया जाना चाहिए। ऑफ़कॉम को इस संबंध में कार्रवाई करने के लिए हमारा पूरा समर्थन है।" उन्होंने सरकार के रुख पर जोर देते हुए आगे कहा, "यह गैरकानूनी है। हम इसे बर्दाश्त नहीं करने वाले हैं। मैंने सभी विकल्पों को मेज पर रखने के लिए कहा है।" सरकारी सूत्रों ने बीबीसी न्यूज़ को पुष्टि की कि ऑफ़कॉम से एक्स पर ग्रोक से संबंधित मुद्दों के जवाब में सभी उपलब्ध उपायों का पता लगाने की उम्मीद है।

डीपफेक, सिंथेटिक मीडिया का एक प्रकार है, जो यथार्थवादी लेकिन मनगढ़ंत छवियों, वीडियो या ऑडियो रिकॉर्डिंग बनाने के लिए एआई, विशेष रूप से डीप लर्निंग तकनीकों का उपयोग करता है। यह तकनीक महत्वपूर्ण नैतिक और कानूनी सवाल उठाती है, खासकर जब इसका उपयोग गैर-सहमति वाली अंतरंग छवियों को उत्पन्न करने या गलत सूचना फैलाने के लिए किया जाता है। एआई की सामग्री को убедительно बदलने या गढ़ने की क्षमता जानकारी को सत्यापित करने और व्यक्तियों को नुकसान से बचाने के लिए एक चुनौती पेश करती है।

ऑनलाइन सुरक्षा अधिनियम ऑफ़कॉम को ऑनलाइन प्लेटफॉर्म को विनियमित करने और हानिकारक सामग्री को संबोधित करने के लिए काफी शक्ति प्रदान करता है। इसमें कंपनियों पर जुर्माना लगाने, वेबसाइटों तक पहुंच को अवरुद्ध करने और संभावित रूप से उपयोगकर्ताओं की सुरक्षा में विफल रहने पर व्यक्तिगत अधिकारियों को उत्तरदायी ठहराने की क्षमता शामिल है। अधिनियम का उद्देश्य ऑनलाइन सुरक्षा के लिए एक ढांचा स्थापित करना है, जिसके लिए प्लेटफार्मों को अवैध सामग्री को हटाने और उपयोगकर्ताओं को नुकसान से बचाने की आवश्यकता होती है।

यह स्थिति एआई के विनियमन और समाज पर इसके संभावित प्रभाव के बारे में चल रही बहस को उजागर करती है। जैसे-जैसे एआई तकनीक आगे बढ़ रही है, नीति निर्माता और नियामक नवाचार को संतुलित करने के साथ-साथ व्यक्तियों को इसके दुरुपयोग से जुड़े संभावित नुकसान से बचाने की आवश्यकता से जूझ रहे हैं। ऑफ़कॉम की जांच का परिणाम और एक्स के खिलाफ की गई कोई भी बाद की कार्रवाई संभवतः इस बात के लिए एक मिसाल कायम करेगी कि यूके ऑनलाइन प्लेटफॉर्म पर एआई-जनित सामग्री को कैसे विनियमित करता है। नियामक से अब सबूतों की समीक्षा करने और ऑनलाइन सुरक्षा अधिनियम के तहत अपनी शक्तियों के पूर्ण दायरे पर विचार करते हुए, कार्रवाई का उचित तरीका निर्धारित करने की उम्मीद है।