इंडोनेशिया ने एलन मस्क के ग्रोक चैटबॉट तक पहुंच को अवरुद्ध कर दिया है, जिसमें एआई द्वारा बिना सहमति के, यौन रूप से स्पष्ट डीपफेक छवियों को उत्पन्न करने की क्षमता पर चिंता जताई गई है। देश के संचार और डिजिटल मामलों के मंत्री ने शनिवार को अस्थायी प्रतिबंध की घोषणा करते हुए कहा कि इस तरह के डीपफेक का निर्माण और वितरण मानव अधिकारों, गरिमा और डिजिटल क्षेत्र में नागरिकों की सुरक्षा का गंभीर उल्लंघन है।

इस निर्णय के साथ इंडोनेशिया डीपफेक मुद्दे के कारण ग्रोक तक पहुंच को सार्वजनिक रूप से प्रतिबंधित करने वाला पहला देश बन गया है। मंत्री, म्युत्या एच ने एआई-जनित अश्लील सामग्री से महिलाओं, बच्चों और व्यापक जनता की सुरक्षा के लिए सरकार की प्रतिबद्धता पर जोर दिया। जिस विशिष्ट तंत्र द्वारा ग्रोक इन छवियों के निर्माण को सक्षम कर रहा था, उसमें उपयोगकर्ताओं को मौजूदा ऑनलाइन छवियों को बदलने की अनुमति देना शामिल था, जिसमें कपड़ों को हटाना भी शामिल था।

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमैंटो है, जो सिंथेटिक मीडिया है जिसमें एक मौजूदा छवि या वीडियो में एक व्यक्ति को कृत्रिम बुद्धिमत्ता का उपयोग करके किसी और की समानता से बदल दिया जाता है। इस तकनीक में, मनोरंजन और शिक्षा जैसे क्षेत्रों में वैध अनुप्रयोग होने के बावजूद, मानहानिकारक सामग्री के निर्माण, गलत सूचना के प्रसार और बिना सहमति वाली अश्लीलता के उत्पादन सहित दुरुपयोग की संभावना के कारण महत्वपूर्ण नैतिक और कानूनी चिंताएं बढ़ गई हैं।

मस्क की एआई कंपनी, xAI द्वारा विकसित ग्रोक चैटबॉट को पहले डीपफेक से संबंधित आलोचना की लहर के बाद अपनी छवि निर्माण क्षमताओं के संबंध में जांच और सीमाओं का सामना करना पड़ा था। यूनाइटेड किंगडम और यूरोपीय संघ के सदस्यों सहित अन्य देशों ने भी चिंता व्यक्त की है और X, जिसे पहले ट्विटर के नाम से जाना जाता था, पर ग्रोक द्वारा उत्पन्न अंतरंग डीपफेक छवियों के मुद्दे को संबोधित करने के लिए दबाव डाला है। विशेष रूप से, यूरोपीय संघ ने एआई द्वारा निर्मित "भयानक बाल-समान डीपफेक" के उदाहरणों को चिह्नित किया।

इंडोनेशियाई सरकार की कार्रवाई संभावित नुकसान को कम करते हुए नवाचार को बढ़ावा देने के लिए एआई प्रौद्योगिकियों को विनियमित करने की बढ़ती वैश्विक चुनौती को उजागर करती है। यह घटना एआई उपकरणों के दुरुपयोग को रोकने के लिए डेवलपर्स द्वारा मजबूत सुरक्षा उपायों को लागू करने और डीपफेक के नैतिक और सामाजिक निहितार्थों को संबोधित करने के लिए सरकारों द्वारा स्पष्ट कानूनी ढांचे स्थापित करने की आवश्यकता को रेखांकित करती है। हानिकारक सामग्री के निर्माण और प्रसार को रोकने के लिए xAI के उपायों का आकलन करते समय प्रतिबंध प्रभावी रहेगा। भविष्य के घटनाक्रमों में संभावित समाधानों और सुरक्षा उपायों के बारे में इंडोनेशियाई अधिकारियों और xAI के बीच चर्चा शामिल होने की संभावना है जो ग्रोक को स्थानीय कानूनों और नैतिक मानकों का पालन करते हुए देश के भीतर संचालित करने की अनुमति दे सकते हैं।