इंडोनेशिया ने एलन मस्क के ग्रोक चैटबॉट तक पहुंच को अवरुद्ध कर दिया है, जिसमें एआई द्वारा गैर-सहमतिपूर्ण, यौन रूप से स्पष्ट डीपफेक छवियां उत्पन्न करने की क्षमता पर चिंता व्यक्त की गई है। देश के संचार और डिजिटल मामलों के मंत्री ने शनिवार को अस्थायी प्रतिबंध की घोषणा करते हुए कहा कि इस तरह के डीपफेक का निर्माण और वितरण मानव अधिकारों, गरिमा और डिजिटल क्षेत्र में नागरिकों की सुरक्षा का गंभीर उल्लंघन है।

इस निर्णय के साथ इंडोनेशिया डीपफेक मुद्दे के कारण आधिकारिक तौर पर ग्रोक को ब्लॉक करने वाला पहला राष्ट्र बन गया है। मंत्री, म्युत्या एच ने कमजोर आबादी, विशेष रूप से महिलाओं और बच्चों को एआई-जनित पोर्नोग्राफिक सामग्री के हानिकारक प्रभावों से बचाने के लिए सरकार की जिम्मेदारी पर जोर दिया। म्युत्या एच ने कहा, "कृत्रिम बुद्धिमत्ता तकनीक का उपयोग करके उत्पन्न नकली पोर्नोग्राफिक सामग्री के जोखिमों से महिलाओं, बच्चों और जनता को बचाने के लिए, सरकार ने अस्थायी रूप से ग्रोक एप्लिकेशन तक पहुंच को अवरुद्ध कर दिया है।"

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमैंटो, अत्यधिक यथार्थवादी लेकिन मनगढ़ंत छवियों, वीडियो और ऑडियो रिकॉर्डिंग बनाने के लिए परिष्कृत कृत्रिम बुद्धिमत्ता तकनीकों, विशेष रूप से डीप लर्निंग एल्गोरिदम का उपयोग करते हैं। ये प्रौद्योगिकियां मौजूदा सामग्री में हेरफेर करने या पूरी तरह से सिंथेटिक मीडिया उत्पन्न करने में सक्षम बनाती हैं, जिससे अक्सर प्रामाणिक और मनगढ़ंत सामग्री के बीच अंतर करना मुश्किल हो जाता है। डीपफेक तकनीक के आसपास चिंता इसके दुरुपयोग की संभावना में निहित है, जिसमें मानहानिकारक सामग्री का निर्माण, गलत सूचना का प्रसार और, इस मामले में, गैर-सहमतिपूर्ण पोर्नोग्राफी का निर्माण शामिल है।

यह प्रतिबंध ग्रोक की छवि निर्माण क्षमताओं की बढ़ती अंतरराष्ट्रीय जांच के बाद लगाया गया है। हाल की रिपोर्टों में उन उदाहरणों पर प्रकाश डाला गया है जहां उपयोगकर्ता ग्रोक का उपयोग करके ऑनलाइन छवियों में हेरफेर करने में सक्षम थे ताकि कपड़ों को हटाया जा सके, जिसके परिणामस्वरूप व्यक्तियों की सहमति के बिना यौन रूप से स्पष्ट चित्रण हुआ। इस क्षमता ने व्यापक निंदा को जन्म दिया और एआई डेवलपर्स की अपनी तकनीकों के दुरुपयोग को रोकने की जिम्मेदारी के बारे में गंभीर नैतिक और कानूनी सवाल उठाए।

इंडोनेशिया के प्रतिबंध से पहले, एलन मस्क को ग्रोक की डीपफेक क्षमताओं के संबंध में कई देशों से बढ़ते दबाव का सामना करना पड़ा। उदाहरण के लिए, यूनाइटेड किंगडम ने एक्स, जिसे पहले ट्विटर के नाम से जाना जाता था, से ग्रोक का उपयोग करके उत्पन्न अंतरंग डीपफेक छवियों के प्रसार को संबोधित करने का आग्रह किया। यूरोपीय संघ ने एआई चैटबॉट द्वारा बनाए गए "भयानक बाल-जैसे डीपफेक" के उदाहरणों को भी चिह्नित किया। इन घटनाओं ने ग्रोक को इस मुद्दे को कम करने के प्रयास में अपनी छवि निर्माण सुविधाओं पर सीमाएं लागू करने के लिए प्रेरित किया।

इंडोनेशियाई सरकार की कार्रवाई तेजी से आगे बढ़ रही एआई प्रौद्योगिकियों द्वारा उत्पन्न चुनौतियों का समाधान करने के लिए नियामक ढांचे की बढ़ती तात्कालिकता को रेखांकित करती है। जैसे-जैसे एआई मॉडल अधिक परिष्कृत और सुलभ होते जाते हैं, दुरुपयोग की संभावना बढ़ती जाती है, जिससे व्यक्तियों और समाज को इन प्रौद्योगिकियों के हानिकारक परिणामों से बचाने के लिए सक्रिय उपायों की आवश्यकता होती है। इस प्रतिबंध के दीर्घकालिक निहितार्थ और एआई विनियमन के प्रति अन्य राष्ट्रों के दृष्टिकोण पर इसके संभावित प्रभाव को देखा जाना बाकी है। इंडोनेशियाई सरकार ने प्रतिबंध की अवधि या उन शर्तों को निर्दिष्ट नहीं किया है जिनके तहत ग्रोक तक पहुंच बहाल की जा सकती है।