डीपफेक संबंधी चिंताओं के बीच X ने ग्रोके की छवि बदलावों पर लगाई रोक
एलन मस्क का AI टूल ग्रोके अब वास्तविक लोगों की तस्वीरों को ऐसे भड़काऊ कपड़ों में चित्रित करने के लिए संपादित नहीं कर पाएगा, जहाँ इस तरह के बदलाव अवैध हैं। X पर एक घोषणा के अनुसार यह निर्णय लिया गया है। यह निर्णय प्लेटफ़ॉर्म के AI चैटबॉट द्वारा उत्पन्न यौन रूप से स्पष्ट AI डीपफेक के बारे में व्यापक चिंता के बाद आया है।
एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफ़ॉर्म X ने कहा कि उसने ग्रोके खाते को वास्तविक लोगों की छवियों को भड़काऊ कपड़ों में संपादित करने की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं। यह कदम AI तकनीक के संभावित दुरुपयोग के संबंध में नियामकों और वकालत समूहों से बढ़ती जाँच और दबाव के बाद आया है।
ब्रिटेन सरकार ने इस बदलाव पर प्रतिक्रिया व्यक्त करते हुए इसे X द्वारा ग्रोके को नियंत्रित करने के आह्वान के लिए "पुष्टि" बताया। नियामक ऑफ़कॉम ने इस विकास को "स्वागत योग्य" बताया, लेकिन जोर दिया कि प्लेटफ़ॉर्म ने यूके के कानूनों का उल्लंघन किया है या नहीं, इसकी जाँच "अभी भी जारी है"। ऑफ़कॉम ने कहा, "हम इसे आगे बढ़ाने और यह पता लगाने के लिए चौबीसों घंटे काम कर रहे हैं कि क्या गलत हुआ और इसे ठीक करने के लिए क्या किया जा रहा है।"
प्रौद्योगिकी सचिव लिज़ केंडल ने भी इस कदम का स्वागत किया, लेकिन कहा कि वह "उम्मीद करेंगी कि ऑफ़कॉम की चल रही जाँच द्वारा तथ्यों को पूरी तरह से और मजबूती से स्थापित किया जाएगा।"
2023 में X पर लॉन्च किया गया ग्रोके, एक AI चैटबॉट है जिसे टेक्स्ट और इमेज उत्पन्न करने के लिए डिज़ाइन किया गया है। यह तकनीक डिजिटल सामग्री का विश्लेषण और हेरफेर करने के लिए मशीन लर्निंग एल्गोरिदम का उपयोग करती है। डीपफेक के निर्माण को रोकने के लिए X द्वारा लागू किए गए विशिष्ट तकनीकी उपायों का खुलासा नहीं किया गया।
अभियानकर्ताओं और पीड़ितों ने तर्क दिया है कि यह बदलाव तकनीक से पहले से हुए नुकसान को दूर करने के लिए अपर्याप्त है। पत्रकार और अभियानकर्ता जेस डेविस, जिन्हें सीधे उद्धृत नहीं किया गया था, AI-जनित यौन सामग्री को संभालने के लिए प्लेटफ़ॉर्म की मुखर आलोचक रही हैं।
यह घटना AI तकनीक को विनियमित करने और इसके दुरुपयोग को रोकने की चल रही चुनौतियों पर प्रकाश डालती है। यथार्थवादी डीपफेक बनाने की क्षमता महत्वपूर्ण नैतिक और कानूनी चिंताएँ पैदा करती है, विशेष रूप से गोपनीयता, सहमति और मानहानि के संबंध में। इस निर्णय का उद्योग पर प्रभाव अन्य AI प्लेटफ़ॉर्म को उनके सुरक्षा प्रोटोकॉल और सामग्री मॉडरेशन नीतियों का पुनर्मूल्यांकन करने के लिए प्रेरित कर सकता है।
Discussion
Join the conversation
Be the first to comment