सरकार ने ओफ़कॉम, यूके के संचार नियामक, से आग्रह किया है कि वह अपनी पूरी शक्तियों का उपयोग करने पर विचार करे, जिसमें सोशल मीडिया प्लेटफ़ॉर्म X के ख़िलाफ़ प्रतिबंध भी शामिल है, क्योंकि साइट पर अवैध कृत्रिम बुद्धिमत्ता-जनित छवियों के प्रसार को लेकर चिंताएँ हैं। यह कार्रवाई X के AI मॉडल, Grok के बारे में बढ़ती आशंकाओं से उपजी है, जिसका उपयोग डीपफ़ेक बनाने के लिए किया जा रहा है, विशेष रूप से वे जो छवियों में व्यक्तियों को डिजिटल रूप से निर्वस्त्र करते हैं।

ऑनलाइन सुरक्षा अधिनियम के तहत ओफ़कॉम का अधिकार उसे अदालत के आदेश प्राप्त करने की अनुमति देता है जो एलन मस्क के स्वामित्व वाले X को पूंजी जुटाने में या यूनाइटेड किंगडम के भीतर प्लेटफ़ॉर्म तक पहुँच को सक्षम करने में तीसरे पक्षों को सहायता करने से रोक सकता है। सरकार की बढ़ी हुई चिंता Grok का उपयोग करके बच्चों की यौन छवियों के संभावित निर्माण से उत्पन्न होती है।

प्रधान मंत्री सर कीर स्टारमर ने ऐसी छवियों के निर्माण की निंदा करते हुए कहा, "यह शर्मनाक है। यह घृणित है। और इसे बर्दाश्त नहीं किया जाना चाहिए। ओफ़कॉम को इस संबंध में कार्रवाई करने के लिए हमारा पूरा समर्थन है।" उन्होंने सरकार के रुख पर जोर देते हुए आगे कहा, "यह गैरकानूनी है। हम इसे बर्दाश्त नहीं करने वाले हैं। मैंने सभी विकल्पों को मेज पर रखने के लिए कहा है," ग्रेटेस्ट हिट्स रेडियो के साथ एक साक्षात्कार में। सरकारी सूत्रों ने बीबीसी न्यूज़ को पुष्टि की कि वे "ओफ़कॉम से Grok X के संबंध में अपने सभी अधिकारों का उपयोग करने की उम्मीद करेंगे।"

डीपफ़ेक, "डीप लर्निंग" और "फ़ेक" का एक पोर्टमैंटो है, सिंथेटिक मीडिया है जिसमें एक मौजूदा छवि या वीडियो में एक व्यक्ति को कृत्रिम बुद्धिमत्ता का उपयोग करके किसी और की समानता से बदल दिया जाता है। जबकि डीपफ़ेक के मनोरंजन और कलात्मक अभिव्यक्ति सहित विभिन्न अनुप्रयोग हैं, दुरुपयोग की उनकी क्षमता, जैसे कि गैर-सहमति वाली अंतरंग छवियों का निर्माण या गलत सूचना फैलाना, महत्वपूर्ण नैतिक और कानूनी चिंताएँ पैदा करता है। Grok जैसे AI मॉडल की परिष्कार ने वास्तविक और हेरफेर की गई सामग्री के बीच अंतर करना तेजी से मुश्किल बना दिया है, जिससे मुद्दा और जटिल हो गया है।

ऑनलाइन सुरक्षा अधिनियम ओफ़कॉम को ऑनलाइन सामग्री को विनियमित करने और उपयोगकर्ताओं को नुकसान से बचाने के लिए महत्वपूर्ण शक्तियाँ प्रदान करता है। इन शक्तियों में जुर्माना जारी करने, अवैध सामग्री को हटाने की मांग करने और चरम मामलों में, वेबसाइटों तक पहुंच को अवरुद्ध करने की क्षमता शामिल है। सरकार द्वारा ओफ़कॉम से X पर प्रतिबंध लगाने पर विचार करने का आग्रह इस गंभीरता को उजागर करता है जिसके साथ वह AI-जनित डीपफ़ेक से जुड़े संभावित नुकसानों को देखती है।

स्थिति अभी भी अस्थिर है, और यह स्पष्ट नहीं है कि ओफ़कॉम क्या विशिष्ट कार्रवाई करेगा। नियामक से उम्मीद की जाती है कि वह निर्णय लेने से पहले सबूतों और कानूनी ढांचे पर सावधानीपूर्वक विचार करेगा। इस मामले के परिणाम AI-जनित सामग्री के विनियमन और AI प्रौद्योगिकियों के दुरुपयोग को संबोधित करने में सोशल मीडिया प्लेटफ़ॉर्म की जिम्मेदारियों के लिए महत्वपूर्ण निहितार्थ हो सकते हैं।