एक्स (X) पर एक घोषणा के अनुसार, एलन मस्क का एआई टूल ग्रोोक (Grok) अब उन क्षेत्राधिकारों में वास्तविक लोगों की तस्वीरों को ऐसे कपड़ों में चित्रित करने के लिए संपादित नहीं कर पाएगा जो उत्तेजक हों, जहाँ इस तरह के बदलाव अवैध हैं। यह निर्णय प्लेटफ़ॉर्म द्वारा उत्पन्न यौनिकृत एआई डीपफेक की संभावना के बारे में व्यापक चिंता के बाद लिया गया है।

मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफ़ॉर्म एक्स (X) ने कहा है कि उसने "ग्रोोक खाते को वास्तविक लोगों की छवियों को उत्तेजक कपड़ों में संपादित करने की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं।" यह कदम एआई टूल के संभावित दुरुपयोग को लेकर आलोचना और नियामक जांच के बाद आया है।

ब्रिटेन सरकार ने इस बदलाव पर प्रतिक्रिया व्यक्त करते हुए इसे एक्स (X) द्वारा ग्रोोक को नियंत्रित करने की मांगों का "समर्थन" बताया। नियामक ऑफ़कॉम (Ofcom) ने इस विकास को "स्वागत योग्य" बताया, लेकिन जोर दिया कि प्लेटफ़ॉर्म ने यूके के कानूनों का उल्लंघन किया है या नहीं, इसकी जांच "अभी भी जारी है।" ऑफ़कॉम ने कहा, "हम इस पर काम कर रहे हैं और यह पता लगाने की कोशिश कर रहे हैं कि क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है।"

प्रौद्योगिकी सचिव लिज़ केंडल ने भी इस बदलाव का स्वागत किया, लेकिन संकेत दिया कि वह "उम्मीद करेंगी कि ऑफ़कॉम की चल रही जांच द्वारा तथ्यों को पूरी तरह से और मजबूती से स्थापित किया जाएगा।"

2023 में एक्स (X) पर लॉन्च किया गया ग्रोोक (Grok) एक एआई टूल है जिसे छवि संपादन सहित विभिन्न प्रकार की सामग्री उत्पन्न करने के लिए डिज़ाइन किया गया है। उत्तेजक कपड़ों से जुड़े डीपफेक के निर्माण को रोकने के लिए एक्स (X) द्वारा लागू किए गए विशिष्ट तकनीकी उपायों का खुलासा नहीं किया गया। हालाँकि, इस तरह के उपायों में अक्सर छवि पहचान एल्गोरिदम, सामग्री फ़िल्टरिंग और उपयोगकर्ता रिपोर्टिंग तंत्र का संयोजन शामिल होता है। छवि पहचान एल्गोरिदम को नग्नता या कामुक सामग्री को दर्शाने वाली छवियों की पहचान करने और उन्हें चिह्नित करने के लिए प्रशिक्षित किया जा सकता है। फिर ऐसी छवियों के निर्माण या साझाकरण को अवरुद्ध करने के लिए सामग्री फ़िल्टर का उपयोग किया जा सकता है। उपयोगकर्ता रिपोर्टिंग तंत्र उपयोगकर्ताओं को एक्स (X) की मॉडरेशन टीम द्वारा समीक्षा के लिए संभावित रूप से अनुचित सामग्री को चिह्नित करने की अनुमति देते हैं।

यह घटना एआई के डीपफेक और अन्य प्रकार की हेरफेर की गई सामग्री बनाने के लिए उपयोग किए जाने की संभावना के बारे में बढ़ती चिंताओं को उजागर करती है। इन चिंताओं के कारण एआई प्लेटफार्मों की नियामक जांच बढ़ गई है और एआई प्रौद्योगिकियों के विकास और तैनाती में अधिक पारदर्शिता और जवाबदेही की मांग की जा रही है।

अभियानकर्ताओं और पीड़ितों ने चिंता व्यक्त की है कि प्रौद्योगिकी के कारण पहले से ही हुए नुकसान को पूर्ववत करने के लिए यह बदलाव बहुत देर से आया है। पत्रकार और अभियानकर्ता जेस डेविस, जिन्हें एक्स (X) की घोषणा में सीधे उद्धृत नहीं किया गया था, एआई डीपफेक का उपयोग व्यक्तियों को परेशान करने और डराने-धमकाने के लिए किए जाने की संभावना के बारे में मुखर रही हैं।