यह कदम टूल द्वारा उत्पन्न यौन रूप से उत्तेजित करने वाले एआई डीपफेक की संभावना के बारे में व्यापक चिंता के बाद उठाया गया है। Grok, जिसे 2023 में लॉन्च किया गया था, एक एआई सहायक है जिसे X प्लेटफॉर्म में एकीकृत किया गया है। X द्वारा छवि परिवर्तनों को रोकने के लिए लागू किए गए विशिष्ट तकनीकी तंत्रों का खुलासा नहीं किया गया।

ब्रिटेन सरकार ने इस बदलाव पर प्रतिक्रिया व्यक्त करते हुए इसे X द्वारा Grok को नियंत्रित करने के लिए की गई पिछली मांगों के लिए "पुष्टि" बताया। ब्रिटेन के संचार नियामक, Ofcom ने इस विकास को "स्वागत योग्य" बताया, लेकिन इस बात पर जोर दिया कि X ने ब्रिटेन के कानूनों का उल्लंघन किया है या नहीं, इसकी जांच "अभी भी जारी है।" Ofcom ने कहा कि वे "इसे आगे बढ़ाने और यह पता लगाने के लिए चौबीसों घंटे काम कर रहे हैं कि क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है।" प्रौद्योगिकी सचिव लिज़ केंडल ने भी इस कदम का स्वागत करते हुए कहा कि वह "उम्मीद करेंगी कि Ofcom की चल रही जांच द्वारा तथ्यों को पूरी तरह और मजबूती से स्थापित किया जाएगा"।

अभियानकर्ताओं और पीड़ितों ने तर्क दिया है कि लागू किए गए परिवर्तन प्रौद्योगिकी के कारण पहले से हुए नुकसान को दूर करने के लिए अपर्याप्त हैं। पत्रकार और अभियानकर्ता जेस डेविस, जो इस मुद्दे पर मुखर रही हैं, ने X द्वारा लागू किए गए विशिष्ट उपायों पर अभी तक कोई टिप्पणी नहीं की है।

यह घटना एआई प्रौद्योगिकियों के दुरुपयोग के बारे में बढ़ती चिंताओं को उजागर करती है, खासकर गैर-सहमति वाली अंतरंग छवियों के निर्माण में। एआई का उपयोग करके छवियों को यथार्थवादी रूप से बदलने की क्षमता महत्वपूर्ण नैतिक और कानूनी प्रश्न उठाती है, जिससे सख्त विनियमन और तकनीकी सुरक्षा उपायों की मांग होती है। Ofcom की चल रही जांच से इस मुद्दे की सीमा और एआई उपकरणों के दुरुपयोग को रोकने में सोशल मीडिया प्लेटफॉर्म की जिम्मेदारियों पर और प्रकाश पड़ने की उम्मीद है।