मलेशिया और इंडोनेशिया ने यौन रूप से स्पष्ट डीपफेक के कारण Grok AI चैटबॉट को ब्लॉक किया
मलेशिया और इंडोनेशिया ने एलोन मस्क के X प्लेटफॉर्म पर मौजूद कृत्रिम बुद्धिमत्ता (AI) चैटबॉट Grok तक पहुंच को ब्लॉक कर दिया है, क्योंकि उन्हें यौन रूप से स्पष्ट डीपफेक उत्पन्न करने की इसकी क्षमता के बारे में चिंताएं हैं। दक्षिण पूर्व एशियाई देश AI उपकरण पर प्रतिबंध लगाने वाले दुनिया के पहले देश हैं, जो अश्लील और गैर-सहमति वाली छवियां बनाने में संभावित दुरुपयोग का हवाला देते हैं, खासकर महिलाओं और बच्चों से जुड़ी।
यह निर्णय X पर AI-जनित इमेजरी में वृद्धि के बाद आया है, जिसमें अक्सर वास्तविक महिलाओं और नाबालिगों को यौन और कभी-कभी हिंसक संदर्भों में दर्शाया गया है, जो TechCrunch के अनुसार, Grok को उपयोगकर्ता अनुरोधों द्वारा प्रेरित है। Grok उपयोगकर्ताओं को चित्र उत्पन्न करने की अनुमति देता है, और हाल के उपयोग में वास्तविक लोगों की छवियों को संपादित करके उन्हें भड़काऊ कपड़ों में दिखाना शामिल है।
इंडोनेशिया की संचार और डिजिटल मंत्री, मेउत्या हाफ़िद ने कहा कि सरकार गैर-सहमति वाले यौन डीपफेक की प्रथा को डिजिटल स्पेस में मानवाधिकारों, गरिमा और नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है, यह बात गार्जियन और अन्य प्रकाशनों के साथ साझा किए गए एक बयान के अनुसार है। मंत्रालय ने कथित तौर पर X के अधिकारियों को इस मामले पर चर्चा करने के लिए बुलाया है।
बीबीसी ने टिप्पणी के लिए Grok प्लेटफॉर्म से संपर्क किया है। एलोन मस्क ने पहले कहा था कि उनके प्लेटफॉर्म के आलोचक "सेंसर के लिए कोई भी बहाना" ढूंढ रहे हैं।
X और xAI एक ही कंपनी का हिस्सा हैं।
Discussion
Join the conversation
Be the first to comment