यह कदम प्लेटफॉर्म की AI क्षमताओं की कड़ी आलोचना और जांच के बाद उठाया गया है। 2023 में X पर लॉन्च किया गया Grok, उपयोगकर्ताओं को छवियों के साथ इंटरैक्ट करने और उन्हें बदलने की अनुमति देता है, जिससे इसके दुरुपयोग की संभावना के बारे में नैतिक सवाल उठते हैं। डीपफेक के निर्माण को रोकने के लिए लागू किए गए विशिष्ट तकनीकी उपायों का विवरण घोषणा में नहीं दिया गया था।

ब्रिटेन सरकार ने इस बदलाव पर प्रतिक्रिया व्यक्त करते हुए इसे X द्वारा Grok को नियंत्रित करने के लिए की गई पिछली मांगों का "समर्थन" बताया। नियामक Ofcom ने इसे "स्वागत योग्य विकास" बताया, लेकिन जोर दिया कि प्लेटफॉर्म ने यूके के कानूनों का उल्लंघन किया है या नहीं, इसकी जांच "अभी भी जारी है।" Ofcom ने कहा, "हम इसे आगे बढ़ाने और यह पता लगाने के लिए चौबीसों घंटे काम कर रहे हैं कि क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है।"

प्रौद्योगिकी सचिव लिज़ केंडल ने भी इस कदम का स्वागत किया, लेकिन कहा कि वह "Ofcom की चल रही जांच द्वारा तथ्यों को पूरी तरह से और मजबूती से स्थापित करने की उम्मीद करेंगी।"

अभियानकर्ताओं और पीड़ितों का तर्क है कि यह बदलाव प्रौद्योगिकी के कारण पहले से हुए नुकसान को दूर करने के लिए अपर्याप्त है। पत्रकार और अभियानकर्ता जेस डेविस, जिन्हें प्रदान की गई स्रोत सामग्री में सीधे उद्धृत नहीं किया गया था, संभवतः इस मुद्दे पर मुखर रही हैं।

यह घटना AI-जनित सामग्री को विनियमित करने की व्यापक चुनौतियों और छवि हेरफेर तकनीक के दुरुपयोग की संभावना को उजागर करती है। डीपफेक, जो यथार्थवादी लेकिन मनगढ़ंत छवियों और वीडियो बनाने के लिए AI का उपयोग करते हैं, ने गलत सूचना, गोपनीयता के उल्लंघन और उत्पीड़न और दुर्व्यवहार की संभावना के बारे में चिंताएं बढ़ा दी हैं। यह विकास कृत्रिम बुद्धिमत्ता के तेजी से विकसित हो रहे क्षेत्र में तकनीकी नवाचार और नैतिक विचारों के बीच तनाव को भी रेखांकित करता है।

Grok की क्षमताओं को प्रतिबंधित करने का X का निर्णय इन चिंताओं को दूर करने की दिशा में एक कदम का प्रतिनिधित्व करता है, लेकिन इन उपायों का दीर्घकालिक प्रभाव और प्रभावशीलता अभी भी देखी जानी बाकी है। Ofcom द्वारा चल रही जांच सोशल मीडिया प्लेटफॉर्म पर AI-जनित सामग्री के लिए भविष्य के नियमों और दिशानिर्देशों को आकार देने में महत्वपूर्ण भूमिका निभाएगी।