डीपफेक को लेकर चिंताओं के बीच X ने ग्रोके की छवि में बदलाव करने पर लगाई रोक

एलन मस्क का AI टूल ग्रोके अब उन न्यायक्षेत्रों में वास्तविक लोगों की तस्वीरों को ऐसे भड़काऊ कपड़ों में चित्रित करने के लिए संपादित नहीं कर पाएगा जहाँ इस तरह के बदलाव अवैध हैं। मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म X पर की गई यह घोषणा, जहाँ ग्रोके को 2023 में लॉन्च किया गया था, यौन रूप से उत्तेजित करने वाले AI डीपफेक की संभावना के बारे में व्यापक चिंता के बाद आई है।

X ने कहा कि ग्रोके खाते को वास्तविक लोगों की छवियों को भड़काऊ कपड़ों में संपादित करने से रोकने के लिए "तकनीकी उपाय" लागू किए गए हैं। यह कदम AI तकनीक के गैर-सहमति वाले, यौन रूप से स्पष्ट सामग्री बनाने के लिए संभावित दुरुपयोग के बारे में नियामकों और जनता की आलोचना और जांच के बाद आया है।

ब्रिटेन सरकार ने प्रतिक्रिया देते हुए इस बदलाव को X द्वारा ग्रोके को नियंत्रित करने की मांग का "समर्थन" बताया। ब्रिटेन के संचार नियामक ऑफकॉम ने इस विकास को "स्वागत योग्य" बताया, लेकिन जोर दिया कि प्लेटफॉर्म ने यूके के कानूनों का उल्लंघन किया है या नहीं, इसकी जांच "अभी भी जारी है।" ऑफकॉम ने कहा कि वे "इसे आगे बढ़ाने और क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है, इसके जवाब पाने के लिए चौबीसों घंटे काम कर रहे हैं।" प्रौद्योगिकी सचिव लिज़ केंडल ने भी इस कदम का स्वागत करते हुए कहा कि वह "उम्मीद करेंगी कि ऑफकॉम की चल रही जांच द्वारा तथ्यों को पूरी तरह से और मजबूती से स्थापित किया जाएगा।"

ग्रोके जैसे AI टूल की छवियों में हेरफेर करने की क्षमता महत्वपूर्ण नैतिक और कानूनी सवाल उठाती है। डीपफेक, जो सिंथेटिक मीडिया हैं जिसमें मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी और की समानता से बदल दिया जाता है, तेजी से परिष्कृत हो गए हैं, जिससे उन्हें पहचानना मुश्किल हो गया है। इससे दुर्भावनापूर्ण उद्देश्यों के लिए उनके संभावित उपयोग के बारे में चिंताएं पैदा हुई हैं, जिसमें गैर-सहमति वाली पोर्नोग्राफी, दुष्प्रचार अभियान और पहचान की चोरी का निर्माण शामिल है।

X द्वारा ग्रोके को ऐसी छवियां बनाने से रोकने के लिए लागू किए गए तकनीकी उपायों का घोषणा में विवरण नहीं दिया गया था। हालाँकि, संभावित समाधानों में फ़िल्टरिंग एल्गोरिदम शामिल हो सकते हैं जो यौन रूप से स्पष्ट सामग्री बनाने के अनुरोध करने वाले संकेतों का पता लगाने और उन्हें ब्लॉक करने के लिए डिज़ाइन किए गए हैं, साथ ही AI-जनित छवियों को उनके सिंथेटिक मूल को इंगित करने के लिए वॉटरमार्क करना भी शामिल है।

अभियानकर्ताओं और पीड़ितों ने तर्क दिया है कि पहले से हुए नुकसान को पूर्ववत करने के लिए यह बदलाव बहुत देर से आया है। पत्रकार और अभियानकर्ता जेस डेविस, जिन्हें प्रदान की गई स्रोत सामग्री में सीधे उद्धृत नहीं किया गया था, संभवतः इस मुद्दे के बारे में जागरूकता बढ़ाने में शामिल रही हैं। यह घटना तेजी से विकसित हो रही AI तकनीकों को विनियमित करने की चुनौतियों और उनके दुरुपयोग को रोकने के लिए सक्रिय उपायों की आवश्यकता पर प्रकाश डालती है। ऑफकॉम द्वारा चल रही जांच में संभवतः इस बात की जांच की जाएगी कि X को दुर्भावनापूर्ण उद्देश्यों के लिए ग्रोके के उपयोग की संभावना के बारे में कितनी जानकारी थी और कंपनी ने ऐसे दुरुपयोग को रोकने के लिए क्या कदम उठाए, यदि कोई हों। जांच के परिणाम सोशल मीडिया प्लेटफॉर्म पर AI तकनीकों के विनियमन के लिए महत्वपूर्ण निहितार्थ हो सकते हैं।