इंडोनेशियाई अधिकारियों ने शनिवार को बताया कि वे xAI के चैटबॉट, Grok तक पहुँच को अस्थायी रूप से अवरुद्ध कर रहे हैं, यह कार्रवाई AI द्वारा उत्पन्न गैर-सहमति वाले, कामुक डीपफेक के प्रसार के जवाब में की गई है। यह कार्रवाई AI द्वारा उत्पन्न उन छवियों के बढ़ते मुद्दे पर सबसे कठोर सरकारी प्रतिक्रियाओं में से एक है जिनमें वास्तविक महिलाओं और नाबालिगों को दर्शाया गया है, जिनमें कभी-कभी हमले और दुर्व्यवहार के चित्रण भी शामिल हैं, जिन्हें सोशल नेटवर्क X पर उपयोगकर्ता अनुरोधों के आधार पर Grok द्वारा निर्मित किया गया था। X और xAI दोनों का स्वामित्व एक ही व्यक्ति के पास है।

इंडोनेशिया की संचार और डिजिटल मंत्री मेउत्या हफीद ने कहा कि "सरकार गैर-सहमति वाले यौन डीपफेक की प्रथा को डिजिटल स्पेस में मानवाधिकारों, गरिमा और नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है," यह बयान गार्जियन और अन्य प्रकाशनों के साथ साझा किया गया। मंत्रालय ने कथित तौर पर X के अधिकारियों को इस मामले पर चर्चा करने के लिए बुलाया है।

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमैंटो है, जो सिंथेटिक मीडिया है जिसमें मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी और की समानता से बदल दिया जाता है। यह तकनीक, कृत्रिम बुद्धिमत्ता द्वारा संचालित, यथार्थवादी लेकिन मनगढ़ंत सामग्री बनाने के लिए इस्तेमाल की जा सकती है, जिससे गलत सूचना, गोपनीयता उल्लंघन और प्रतिष्ठा को नुकसान होने की चिंता बढ़ जाती है। Grok जैसे AI उपकरणों की पहुंच ने दुरुपयोग की संभावना को बढ़ा दिया है, जिससे गैर-सहमति वाले डीपफेक में वृद्धि हुई है।

xAI द्वारा विकसित Grok, एक बड़ा भाषा मॉडल (LLM) है जिसे सवालों के जवाब देने और टेक्स्ट उत्पन्न करने के लिए डिज़ाइन किया गया है। LLM को डेटा की विशाल मात्रा पर प्रशिक्षित किया जाता है, जिससे वे संकेतों की एक विस्तृत श्रृंखला को समझने और प्रतिक्रिया देने में सक्षम होते हैं। हालाँकि, यथार्थवादी सामग्री उत्पन्न करने की उनकी क्षमता जोखिम भी प्रस्तुत करती है, खासकर जब इसका उपयोग हानिकारक या भ्रामक सामग्री बनाने के लिए किया जाता है।

इंडोनेशियाई सरकार का यह निर्णय अन्य देशों द्वारा की गई समान कार्रवाइयों के बाद आया है। भारत के आईटी मंत्रालय ने xAI को Grok द्वारा अश्लील सामग्री उत्पन्न करने से रोकने का आदेश दिया। यूरोपीय आयोग ने कंपनी से Grok से संबंधित सभी दस्तावेजों को बनाए रखने का अनुरोध किया, जो संभावित रूप से आगामी जांच का संकेत देता है। यूनाइटेड किंगडम में, संचार नियामक Ofcom ने कहा कि वह स्थिति की निगरानी कर रहा है। ये अंतर्राष्ट्रीय प्रतिक्रियाएँ AI-संचालित उपकरणों के नैतिक निहितार्थों और संभावित दुरुपयोग के बारे में बढ़ती वैश्विक चिंता का संकेत देती हैं।

इंडोनेशिया में Grok को अवरुद्ध करना AI द्वारा उत्पन्न सामग्री को विनियमित करने की चुनौतियों और दुरुपयोग को रोकने के लिए डेवलपर्स द्वारा सुरक्षा उपायों को लागू करने की आवश्यकता को उजागर करता है। यह घटना AI तकनीक से जुड़े नैतिक और कानूनी मुद्दों को संबोधित करने में अंतर्राष्ट्रीय सहयोग के महत्व को भी रेखांकित करती है। इंडोनेशियाई अधिकारियों और X प्रतिनिधियों के बीच चर्चा का परिणाम, साथ ही xAI द्वारा की गई कोई भी बाद की कार्रवाई, अभी देखी जानी बाकी है।