यह कदम नियामकों और जनता की ओर से आई कड़ी प्रतिक्रिया और जांच के बाद उठाया गया है। यूके सरकार ने इस निर्णय को एक्स द्वारा ग्रोक की क्षमताओं को नियंत्रित करने के अपने आह्वान की "पुष्टि" बताया। यूके के संचार नियामक, ऑफकॉम ने इस बदलाव को "स्वागत योग्य विकास" बताया, लेकिन जोर दिया कि क्या प्लेटफॉर्म ने यूके के कानूनों का उल्लंघन किया है, इसकी जांच "अभी भी जारी है।" ऑफकॉम ने कहा, "हम इस पर तेजी से काम कर रहे हैं और यह पता लगाने की कोशिश कर रहे हैं कि क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है।"

टेक्नोलॉजी सेक्रेटरी लिज़ केंडल ने भी इस बदलाव का स्वागत किया, लेकिन संकेत दिया कि वह "ऑफकॉम की चल रही जांच द्वारा तथ्यों को पूरी तरह और मजबूती से स्थापित करने की उम्मीद करेंगी।"

एक्स द्वारा ग्रोक को इस प्रकार की छवियों को बनाने से रोकने के लिए लागू किए गए विशिष्ट तकनीकी उपायों का विवरण घोषणा में नहीं दिया गया था। हालांकि, इस तरह के उपायों में आमतौर पर तकनीकों का एक संयोजन शामिल होता है, जिसमें तस्वीरों में वास्तविक लोगों की पहचान करने के लिए डिज़ाइन किए गए इमेज रिकॉग्निशन एल्गोरिदम और ऐसे फ़िल्टर शामिल हैं जो एआई को यौन रूप से स्पष्ट या उत्तेजक सामग्री उत्पन्न करने से रोकते हैं। ये फ़िल्टर अक्सर मशीन लर्निंग मॉडल पर निर्भर करते हैं जिन्हें अनुचित आउटपुट का पता लगाने और ब्लॉक करने के लिए प्रशिक्षित किया जाता है।

ग्रोक की इमेज एडिटिंग क्षमताओं से जुड़ा विवाद एआई के गैर-सहमति वाले डीपफेक, विशेष रूप से यौन प्रकृति के डीपफेक बनाने के लिए उपयोग किए जाने की क्षमता के बारे में बढ़ती चिंताओं को उजागर करता है। अभियानकर्ताओं और पीड़ितों का तर्क है कि यह बदलाव प्रौद्योगिकी के कारण पहले से हुए नुकसान को पूर्ववत करने के लिए बहुत देर से आया है। पत्रकार और अभियानकर्ता जेस डेविस, जिन्हें प्रदान की गई स्रोत सामग्री में सीधे उद्धृत नहीं किया गया था, संभवतः उन लोगों में शामिल रही हैं जो सख्त नियंत्रण की वकालत कर रही हैं।

यह घटना सोशल मीडिया प्लेटफॉर्म द्वारा एआई-संचालित उपकरणों को विनियमित करने और उनके दुरुपयोग को रोकने में आने वाली चुनौतियों को रेखांकित करती है। जैसे-जैसे एआई तकनीक अधिक परिष्कृत और सुलभ होती जा रही है, मजबूत सुरक्षा उपायों और नैतिक दिशानिर्देशों की आवश्यकता तेजी से महत्वपूर्ण होती जा रही है। उद्योग पर इसका महत्वपूर्ण प्रभाव पड़ता है, जिससे संभावित रूप से सख्त नियम और सोशल मीडिया प्लेटफॉर्म पर एआई अनुप्रयोगों की बढ़ी हुई जांच हो सकती है। वर्तमान स्थिति यह है कि तकनीकी उपाय लागू कर दिए गए हैं, और ऑफकॉम की जांच जारी है। अगले विकास में संभवतः ऑफकॉम की जांच के परिणाम और एआई-जनित डीपफेक से जुड़े जोखिमों को दूर करने के लिए नियामकों और कानून निर्माताओं द्वारा संभावित आगे की कार्रवाई शामिल होगी।