एलन मस्क के AI उपकरण ग्रोके (Grok) अब उन क्षेत्राधिकारों में वास्तविक लोगों की तस्वीरों को ऐसे भड़काऊ कपड़ों में चित्रित करने के लिए संपादित नहीं कर पाएगा जहाँ इस तरह के बदलाव अवैध हैं, X पर एक घोषणा के अनुसार। यह निर्णय प्लेटफ़ॉर्म द्वारा उत्पन्न यौन रूप से उत्तेजित करने वाले AI डीपफेक की संभावना के बारे में व्यापक चिंता के बाद लिया गया है।

मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफ़ॉर्म X ने कहा कि उसने ग्रोके खाते को वास्तविक लोगों की छवियों को भड़काऊ कपड़ों में संपादित करने की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं। यह कदम AI उपकरण के संभावित दुरुपयोग को लेकर आलोचना और नियामक जांच के बाद उठाया गया है।

ब्रिटेन सरकार ने इस बदलाव पर प्रतिक्रिया व्यक्त करते हुए इसे X द्वारा ग्रोके को नियंत्रित करने के लिए पहले की गई मांगों के लिए "सही ठहराना" बताया। नियामक ऑफ़कॉम (Ofcom) ने इस विकास को "स्वागत योग्य" बताया, लेकिन जोर दिया कि प्लेटफ़ॉर्म ने यूके के कानूनों का उल्लंघन किया है या नहीं, इसकी जांच "जारी है"। ऑफ़कॉम ने कहा, "हम इसे आगे बढ़ाने और क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है, इसके जवाब पाने के लिए चौबीसों घंटे काम कर रहे हैं।"

प्रौद्योगिकी सचिव लिज़ केंडल ने भी इस कदम का स्वागत किया, लेकिन संकेत दिया कि वह "उम्मीद करेंगी कि ऑफ़कॉम की चल रही जांच द्वारा तथ्यों को पूरी तरह से और मजबूती से स्थापित किया जाएगा।"

2023 में X पर लॉन्च किया गया ग्रोके एक AI उपकरण है जिसे छवि संपादन सहित विभिन्न प्रकार की सामग्री उत्पन्न करने के लिए डिज़ाइन किया गया है। डीपफेक के निर्माण को रोकने के लिए X द्वारा कार्यान्वित विशिष्ट तकनीकी उपायों का घोषणा में विवरण नहीं दिया गया था। हालाँकि, इस तरह के उपायों में आमतौर पर ऐसे एल्गोरिदम शामिल होते हैं जो प्लेटफ़ॉर्म नीतियों और कानूनी नियमों का उल्लंघन करने वाले तरीकों से छवियों में हेरफेर का पता लगाने और रोकने के लिए डिज़ाइन किए गए हैं।

अभियानकर्ताओं और पीड़ितों ने तर्क दिया है कि यह बदलाव बहुत पहले हो जाना चाहिए था और यह तकनीक से पहले से हुए नुकसान को पूर्ववत नहीं करता है। पत्रकार और अभियानकर्ता जेस डेविस, जिन्हें प्रदान की गई स्रोत सामग्री में सीधे उद्धृत नहीं किया गया था, संभवतः प्लेटफ़ॉर्म में सुरक्षा उपायों की प्रारंभिक कमी के आलोचकों में से रही हैं।

यह घटना AI-जनित सामग्री और इसके दुरुपयोग की संभावना, विशेष रूप से डीपफेक के निर्माण में, से संबंधित बढ़ती चिंताओं को उजागर करती है। उद्योग AI उपकरणों को विकसित करने के साथ-साथ दुर्भावनापूर्ण उद्देश्यों के लिए उनके उपयोग को रोकने की चुनौती से जूझ रहा है। नियामक परिदृश्य भी विकसित हो रहा है, दुनिया भर की सरकारें और नियामक निकाय AI-जनित सामग्री से जुड़े जोखिमों को दूर करने के उपायों पर विचार कर रहे हैं।

वर्तमान स्थिति यह है कि X ने तकनीकी उपाय लागू कर दिए हैं, और ऑफ़कॉम की जांच जारी है। अगली घटनाओं में संभवतः ऑफ़कॉम की जांच के परिणाम और X के AI सुरक्षा उपायों की आगे की जांच शामिल होगी।