X, जिसे पहले ट्विटर के नाम से जाना जाता था, ने अपने प्लेटफ़ॉर्म पर नए प्रतिबंध लगाए हैं ताकि उपयोगकर्ता अपने Grok AI इमेज जनरेटर का उपयोग करके वास्तविक लोगों की बिकनी या अन्य उत्तेजक कपड़े पहने हुए तस्वीरें न बना सकें। बुधवार रात को लागू किए गए नीतिगत बदलाव, X पर महिलाओं की गैर-सहमति वाली "कपड़े उतारने" वाली तस्वीरें और संभावित नाबालिगों की यौन छवियों को बनाने के लिए Grok के उपयोग के बारे में व्यापक आलोचना के बाद आया है।
हालांकि, X ने अपने प्लेटफ़ॉर्म के भीतर Grok के इमेज जनरेशन के लिए सुरक्षा उपाय पेश किए हैं, लेकिन शोधकर्ताओं, WIRED और अन्य पत्रकारों द्वारा किए गए परीक्षणों के अनुसार, स्टैंडअलोन Grok ऐप और वेबसाइट अभी भी इसी तरह की "कपड़े उतारने वाली शैली" की छवियां और पोर्नोग्राफिक सामग्री उत्पन्न करने में सक्षम प्रतीत होते हैं। कुछ उपयोगकर्ताओं ने छवियों और वीडियो को बनाने की अपनी क्षमता में कमी की भी सूचना दी, जैसा कि वे पहले कर सकते थे।
पेरिस स्थित गैर-लाभकारी संस्था AI फोरेंसिक्स के प्रमुख शोधकर्ता पॉल बूचाउड ने कहा कि संगठन X पर प्रतिबंधों के बावजूद, Grok.com पर अभी भी फोटो-यथार्थवादी नग्नता उत्पन्न कर सकता है। बूचाउड ने कहा, "हम नग्नता को उन तरीकों से उत्पन्न कर सकते हैं जो X पर Grok नहीं कर सकता है," उन्होंने कहा कि वह यौन छवियों को बनाने के लिए Grok के उपयोग को ट्रैक कर रहे हैं और X के बाहर Grok पर कई परीक्षण चलाए हैं। उन्होंने आगे कहा, "मैं Grok Imagine पर एक छवि अपलोड कर सकता हूं और व्यक्ति को बिकनी में डालने के लिए कह सकता हूं और यह काम करता है।"
यह मुद्दा विभिन्न प्लेटफ़ॉर्म और एक ही AI तकनीक के संस्करणों में प्रभावी सामग्री मॉडरेशन को लागू करने की चुनौतियों को उजागर करता है। एलोन मस्क की AI कंपनी xAI द्वारा विकसित Grok, DALL-E 2 और Midjourney के समान एक जेनरेटिव AI मॉडल है, जो टेक्स्ट प्रॉम्प्ट से छवियां बनाने में सक्षम है। इस तकनीक ने डीपफेक और गैर-सहमति वाली अंतरंग इमेजरी के निर्माण सहित इसके दुरुपयोग की संभावना के बारे में चिंताएं बढ़ा दी हैं।
X पर नए प्रतिबंध इन चिंताओं को दूर करने के प्रयास का प्रतिनिधित्व करते हैं, लेकिन स्टैंडअलोन Grok ऐप और वेबसाइट की निरंतर कार्यक्षमता से पता चलता है कि जोखिमों को पूरी तरह से कम करने के लिए आगे की कार्रवाई आवश्यक हो सकती है। यह देखा जाना बाकी है कि क्या xAI स्टैंडअलोन Grok प्लेटफ़ॉर्म पर अतिरिक्त सुरक्षा उपाय लागू करेगा या क्या X Grok का उपयोग करके हानिकारक छवियों के निर्माण को रोकने के लिए आगे कदम उठाएगा। यह स्थिति AI-जनित सामग्री के नैतिक निहितार्थों और प्रौद्योगिकी कंपनियों की इसके दुरुपयोग को रोकने की जिम्मेदारी के बारे में चल रही बहस को रेखांकित करती है।
Discussion
Join the conversation
Be the first to comment