यह कदम एआई तकनीक के संभावित दुरुपयोग को लेकर हुई भारी प्रतिक्रिया और जांच के बाद उठाया गया है। 2023 में लॉन्च किया गया ग्रोक, इमेज मैनिपुलेशन सहित विभिन्न प्रकार की सामग्री उत्पन्न करने के लिए डिज़ाइन किया गया है। चिंताएं तब उठीं जब उपयोगकर्ताओं ने पाया कि एआई को वास्तविक लोगों के समझौताजनक स्थितियों में डीपफेक बनाने के लिए प्रेरित किया जा सकता है।

ब्रिटेन सरकार ने घोषणा पर प्रतिक्रिया व्यक्त करते हुए इसे एक्स द्वारा ग्रोक को नियंत्रित करने के आह्वान के लिए "पुष्टि" बताया। नियामक ऑफकॉम ने भी इस भावना को दोहराया, इस बदलाव को "स्वागत योग्य विकास" बताया, लेकिन जोर दिया कि क्या प्लेटफॉर्म ने यूके के कानूनों का उल्लंघन किया है, इसकी जांच "अभी भी जारी है।" ऑफकॉम ने कहा, "हम इसे आगे बढ़ाने और यह पता लगाने के लिए चौबीसों घंटे काम कर रहे हैं कि क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है।"

प्रौद्योगिकी सचिव लिज़ केंडल ने भी इस बदलाव का स्वागत किया, लेकिन कहा कि वह "ऑफकॉम की चल रही जांच द्वारा तथ्यों को पूरी तरह और मजबूती से स्थापित करने की उम्मीद करेंगी।"

ग्रोक के दुरुपयोग को रोकने के लिए एक्स द्वारा कार्यान्वित विशिष्ट तकनीकी उपायों का घोषणा में विवरण नहीं दिया गया था। हालाँकि, कंपनी ने संकेत दिया कि प्रतिबंध उन न्यायालयों में लागू होंगे जहाँ इस तरह के डीपफेक का निर्माण और वितरण अवैध है। यह एक जियो-फेंसिंग दृष्टिकोण का सुझाव देता है, जहाँ एआई की क्षमताओं को उपयोगकर्ता के स्थान के आधार पर सीमित किया जाता है।

अभियानकर्ताओं और पीड़ितों ने व्यक्त किया है कि यह बदलाव बहुत पहले हो जाना चाहिए था, उनका तर्क है कि प्रौद्योगिकी के कारण होने वाला नुकसान पहले ही हो चुका है। पत्रकार और अभियानकर्ता जेस डेविस, जो इस तकनीक से प्रभावित थीं, मजबूत नियमों और निवारक उपायों की आवश्यकता के बारे में मुखर रही हैं।

यह घटना एआई प्रौद्योगिकियों को विनियमित करने और उनके दुरुपयोग को रोकने की चल रही चुनौतियों को उजागर करती है। जबकि ग्रोक की क्षमताओं को प्रतिबंधित करने का एक्स का निर्णय सही दिशा में एक कदम है, यह प्लेटफॉर्म की प्रारंभिक निगरानी और अन्य एआई उपकरणों के साथ इसी तरह के मुद्दों के उत्पन्न होने की संभावना के बारे में भी सवाल उठाता है। इस निर्णय का उद्योग पर प्रभाव एआई-संचालित प्लेटफार्मों की बढ़ी हुई जांच और जिम्मेदार एआई विकास और तैनाती पर अधिक जोर दे सकता है।