सरकार ने यूके के संचार नियामक, ऑफ़कॉम से आग्रह किया है कि वह अपनी पूरी शक्तियों का उपयोग करने पर विचार करे, जिसमें सोशल मीडिया प्लेटफॉर्म एक्स के खिलाफ प्रतिबंध भी शामिल है, जो गैरकानूनी एआई-जनित छवियों के निर्माण और वितरण के बारे में चिंताओं को लेकर है। यह कार्रवाई एक्स के एआई मॉडल, ग्रोोक के उपयोग के संबंध में बढ़ती आलोचना के बाद की गई है, जिसका उपयोग छवियों को डिजिटल रूप से बदलने के लिए किया गया है, जिसमें व्यक्तियों के कपड़े हटाना भी शामिल है।

ऑनलाइन सुरक्षा अधिनियम के तहत ऑफ़कॉम का अधिकार उसे अदालत के आदेशों का पालन करने की अनुमति देता है जो एक्स को वित्तीय सहायता प्रदान करने या यूके के भीतर प्लेटफॉर्म तक पहुंच को सक्षम करने से तीसरे पक्ष को रोक सकता है। सरकार की बढ़ी हुई चिंता ग्रोोक की यौन छवियों, विशेष रूप से बच्चों को दर्शाने वाली छवियों को उत्पन्न करने की क्षमता से उपजी है।

प्रधान मंत्री सर कीर स्टारमर ने ऐसी छवियों के निर्माण की निंदा करते हुए कहा, "यह शर्मनाक है। यह घृणित है। और इसे बर्दाश्त नहीं किया जाना चाहिए। ऑफ़कॉम को इस संबंध में कार्रवाई करने के लिए हमारा पूरा समर्थन है।" उन्होंने सरकार के रुख पर जोर देते हुए आगे कहा, "यह गैरकानूनी है। हम इसे बर्दाश्त नहीं करने वाले हैं। मैंने सभी विकल्पों को टेबल पर रखने के लिए कहा है," ग्रेटेस्ट हिट्स रेडियो के साथ एक साक्षात्कार में।

सरकारी सूत्रों ने बीबीसी न्यूज़ को पुष्टि की कि वे ग्रोोक और एक्स से जुड़े मुद्दों के जवाब में ऑफ़कॉम से सभी उपलब्ध शक्तियों का उपयोग करने की उम्मीद करते हैं।

मूल मुद्दा जेनरेटिव एआई के दुरुपयोग के इर्द-गिर्द घूमता है, जो एक प्रकार की कृत्रिम बुद्धिमत्ता है जो छवियों, पाठ और ऑडियो सहित नई सामग्री बनाने में सक्षम है। जबकि जेनरेटिव एआई में नवाचार और रचनात्मकता की महत्वपूर्ण क्षमता है, इसका दुरुपयोग गंभीर नैतिक और कानूनी चिंताएं पैदा करता है। डीपफेक, एआई-जनित मीडिया जो किसी ऐसे व्यक्ति को convincingly चित्रित करता है जो कुछ ऐसा कर रहा है या कह रहा है जो उन्होंने नहीं किया, एक विशेष रूप से चिंताजनक अनुप्रयोग का प्रतिनिधित्व करता है। यथार्थवादी लेकिन मनगढ़ंत छवियों को बनाने की क्षमता का उपयोग दुर्भावनापूर्ण उद्देश्यों के लिए किया जा सकता है, जिसमें गलत सूचना फैलाना, प्रतिष्ठा को नुकसान पहुंचाना और गैर-सहमति वाली अंतरंग छवियां बनाना शामिल है।

ऑनलाइन सुरक्षा अधिनियम ऑफ़कॉम को ऑनलाइन सेवाओं को विनियमित करने और हानिकारक सामग्री को संबोधित करने की शक्ति प्रदान करता है। इसमें जुर्माना जारी करने, अवैध सामग्री को हटाने की मांग करने और चरम मामलों में, कानून का पालन करने में विफल रहने वाले प्लेटफार्मों तक पहुंच को अवरुद्ध करने की क्षमता शामिल है। सरकार का ऑफ़कॉम से प्रतिबंध पर विचार करने का आह्वान एआई-जनित सामग्री से होने वाले नुकसान की संभावना के बारे में उसकी चिंताओं की गंभीरता को उजागर करता है।

यह स्थिति तेजी से विकसित हो रही एआई प्रौद्योगिकियों को विनियमित करने की चुनौतियों को रेखांकित करती है। जैसे-जैसे एआई मॉडल अधिक परिष्कृत होते जाते हैं, हानिकारक सामग्री के निर्माण का पता लगाना और उसे रोकना तेजी से मुश्किल होता जाता है। इसके लिए एक बहुआयामी दृष्टिकोण की आवश्यकता होती है जिसमें तकनीकी समाधान शामिल हैं, जैसे कि एआई-संचालित पहचान उपकरण, साथ ही नियामक ढांचे और सार्वजनिक जागरूकता अभियान।

एक्स और ग्रोोक के आसपास की बहस एआई के युग में सोशल मीडिया प्लेटफार्मों की जिम्मेदारियों के बारे में एक व्यापक चर्चा को दर्शाती है। आलोचकों का तर्क है कि प्लेटफार्मों का कर्तव्य है कि वे अपनी तकनीकों के दुरुपयोग को रोकें और उपयोगकर्ताओं को नुकसान से बचाएं। हालांकि, बोलने की स्वतंत्रता के समर्थक अत्यधिक प्रतिबंधात्मक नियमों के खिलाफ चेतावनी देते हैं जो नवाचार को दबा सकते हैं और अभिव्यक्ति की स्वतंत्रता को सीमित कर सकते हैं।

ऑफ़कॉम वर्तमान में स्थिति का आकलन कर रहा है और अपने विकल्पों पर विचार कर रहा है। नियामक का निर्णय संभवतः यूके में एआई विनियमन के भविष्य के लिए महत्वपूर्ण निहितार्थ होगा और इसी तरह की चुनौतियों से जूझ रहे अन्य देशों के लिए एक मिसाल कायम कर सकता है। अगले चरणों में ऑफ़कॉम द्वारा सबूत इकट्ठा करना, विशेषज्ञों से परामर्श करना और सरकार की चिंताओं को दूर करने के लिए एक्स के साथ जुड़ना शामिल है। इस प्रक्रिया का परिणाम अनिश्चित बना हुआ है, लेकिन यह स्पष्ट है कि एआई-जनित सामग्री और इसके नुकसान की संभावना का मुद्दा नियामकों और नीति निर्माताओं के लिए एक प्रमुख फोकस बना रहेगा।