ब्रिटेन की सरकार ने देश के संचार नियामक, ऑफ़कॉम से आग्रह किया है कि वह सोशल मीडिया प्लेटफ़ॉर्म X के विरुद्ध अपनी पूरी शक्ति का उपयोग करने पर विचार करे, जिसमें संभावित रूप से प्रतिबंध भी शामिल है, क्योंकि साइट पर अवैध कृत्रिम बुद्धिमत्ता-जनित डीपफ़ेक के बारे में चिंताएँ हैं। यह कार्रवाई X के AI मॉडल, ग्रोक का उपयोग करके डिजिटल रूप से बदली हुई छवियां बनाने, जिसमें व्यक्तियों के कपड़े हटाने वाली छवियां भी शामिल हैं, के बारे में बढ़ती चिंताओं से उपजी है।

ऑनलाइन सुरक्षा अधिनियम के तहत ऑफ़कॉम का अधिकार उसे अदालती आदेशों का पालन करने की अनुमति देता है जो X के वित्तीय संचालन या यूके के भीतर इसकी पहुंच को सुविधाजनक बनाने से तीसरे पक्ष को रोक सकते हैं। सरकार की बढ़ी हुई चिंता ग्रोक के यौन छवियों, विशेष रूप से बच्चों को दर्शाने वाली छवियों को उत्पन्न करने के लिए उपयोग किए जाने की संभावना से उत्पन्न होती है।

प्रधान मंत्री सर कीर स्टारमर ने ऐसी छवियों के निर्माण की निंदा करते हुए कहा, "यह शर्मनाक है। यह घृणित है। और इसे बर्दाश्त नहीं किया जाना चाहिए। ऑफ़कॉम को इस संबंध में कार्रवाई करने के लिए हमारा पूरा समर्थन है।" उन्होंने सरकार के रुख पर जोर देते हुए कहा, "यह गैरकानूनी है। हम इसे बर्दाश्त नहीं करने वाले हैं। मैंने सभी विकल्पों को मेज पर रखने के लिए कहा है।" सरकारी सूत्रों ने बीबीसी न्यूज़ को पुष्टि की कि वे उम्मीद करते हैं कि ऑफ़कॉम X पर ग्रोक के मुद्दे को संबोधित करने में सभी उपलब्ध शक्तियों का उपयोग करेगा।

डीपफ़ेक, सिंथेटिक मीडिया का एक रूप है, जो अत्यधिक यथार्थवादी लेकिन मनगढ़ंत चित्र, वीडियो या ऑडियो रिकॉर्डिंग बनाने के लिए AI, विशेष रूप से डीप लर्निंग तकनीकों का उपयोग करता है। यह तकनीक महत्वपूर्ण नैतिक और सामाजिक चिंताएँ पैदा करती है, जिसमें गलत सूचना, मानहानि और गैर-सहमति वाली पोर्नोग्राफी की संभावना शामिल है। छवियों और वीडियो को убедительно बदलने की क्षमता दृश्य जानकारी में विश्वास को कम कर सकती है और वास्तविकता और निर्माण के बीच अंतर करने में चुनौतियां पैदा कर सकती है।

ऑनलाइन सुरक्षा अधिनियम ऑफ़कॉम को ऑनलाइन हानिकारक सामग्री को संबोधित करने के लिए महत्वपूर्ण नियामक शक्तियां प्रदान करता है। इन शक्तियों में उन कंपनियों पर जुर्माना लगाने की क्षमता शामिल है जो उपयोगकर्ताओं को अवैध सामग्री से बचाने में विफल रहती हैं और, चरम मामलों में, वेबसाइटों तक पहुंच को अवरुद्ध करने की क्षमता भी शामिल है। सरकार द्वारा ऑफ़कॉम से प्रतिबंध पर विचार करने का आग्रह सोशल मीडिया प्लेटफॉर्म पर AI के संभावित दुरुपयोग के बारे में उसकी चिंताओं की गंभीरता को उजागर करता है।

यह स्थिति AI के विनियमन और समाज पर इसके संभावित प्रभाव के आसपास चल रही बहस को रेखांकित करती है। जैसे-जैसे AI तकनीक आगे बढ़ रही है, नियामकों और नीति निर्माताओं को नवाचार को नुकसान से व्यक्तियों की रक्षा करने की आवश्यकता के साथ संतुलित करने की चुनौती का सामना करना पड़ रहा है। ऑफ़कॉम की जांच का परिणाम और X के खिलाफ की गई कोई भी बाद की कार्रवाई संभवतः यह मिसाल कायम करेगी कि यूके में AI-जनित सामग्री को कैसे विनियमित किया जाता है और संभावित रूप से अन्य देशों में समान चर्चाओं को प्रभावित करता है। नियामक से अब सबूतों का आकलन करने और ऑनलाइन सुरक्षा अधिनियम के तहत अपनी शक्तियों के पूर्ण दायरे पर विचार करते हुए कार्रवाई का उचित तरीका निर्धारित करने की उम्मीद है।