मलेशिया और इंडोनेशिया ने यौन रूप से स्पष्ट डीपफेक के कारण ग्रोोक एआई को ब्लॉक किया
मलेशिया और इंडोनेशिया ने एलोन मस्क के एक्स प्लेटफॉर्म पर कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट ग्रोोक तक पहुंच को यौन रूप से स्पष्ट डीपफेक उत्पन्न करने की क्षमता के बारे में चिंताओं के कारण ब्लॉक कर दिया है। दक्षिण पूर्व एशियाई देश एआई उपकरण पर प्रतिबंध लगाने वाले दुनिया के पहले देश हैं, जिसमें महिलाओं और बच्चों से जुड़े पोर्नोग्राफिक और गैर-सहमति वाले चित्र बनाने की क्षमता का हवाला दिया गया है।
बीबीसी के अनुसार, ग्रोोक, जो उपयोगकर्ताओं को चित्र उत्पन्न करने की अनुमति देता है, का उपयोग हाल ही में वास्तविक लोगों की छवियों को संपादित करने के लिए किया गया है ताकि उन्हें उत्तेजक संगठनों में दर्शाया जा सके। दोनों देशों के अधिकारियों ने ऐसी छवियों के प्रसार पर गंभीर चिंता व्यक्त की।
इंडोनेशिया की संचार और डिजिटल मंत्री, मेउत्या हाफ़िद ने कहा कि "सरकार गैर-सहमति वाले यौन डीपफेक की प्रथा को डिजिटल स्पेस में मानवाधिकारों, गरिमा और नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है," गार्जियन और अन्य प्रकाशनों के साथ साझा किए गए एक बयान के अनुसार। मंत्रालय ने कथित तौर पर एक्स अधिकारियों को इस मामले पर चर्चा करने के लिए बुलाया है।
टेकक्रंच के अनुसार, प्रतिबंध सरकार के अधिकारियों द्वारा यौनकृत, एआई-जनित इमेजरी की वृद्धि के जवाब में अब तक के सबसे आक्रामक कदम का प्रतिनिधित्व करते हैं, जो अक्सर वास्तविक महिलाओं और नाबालिगों को दर्शाते हैं, और कभी-कभी हिंसा को दर्शाते हैं, जिसे एक्स पर उपयोगकर्ता अनुरोधों के जवाब में ग्रोोक द्वारा पोस्ट किया जाता है।
बीबीसी ने टिप्पणी के लिए ग्रोोक प्लेटफॉर्म से संपर्क किया है। मस्क ने पहले कहा था कि उनके प्लेटफॉर्म के आलोचक "सेंसर के लिए कोई भी बहाना" ढूंढ रहे हैं।
Discussion
Join the conversation
Be the first to comment