इंडोनेशियाई अधिकारियों ने शनिवार को बताया कि वे xAI के चैटबॉट Grok तक पहुंच को अस्थायी रूप से रोक रहे हैं, इसका कारण गैर-सहमति वाले, यौनिकृत डीपफेक के निर्माण को लेकर चिंताएं हैं। यह कार्रवाई वास्तविक महिलाओं और नाबालिगों को दर्शाने वाली AI-जनित छवियों के प्रसार के प्रति सबसे कठोर सरकारी प्रतिक्रियाओं में से एक है, जिसमें कथित तौर पर सोशल नेटवर्क X पर उपयोगकर्ता संकेतों के जवाब में Grok द्वारा निर्मित हमले और दुर्व्यवहार के उदाहरण शामिल हैं। X और xAI दोनों का स्वामित्व एक ही है।

इंडोनेशिया की संचार और डिजिटल मंत्री मेउत्या हफीद ने कहा कि सरकार "गैर-सहमति वाले यौन डीपफेक की प्रथा को डिजिटल स्पेस में मानवाधिकारों, गरिमा और नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है," यह बयान द गार्जियन और अन्य प्रकाशनों के साथ साझा किया गया। मंत्रालय ने कथित तौर पर X के अधिकारियों को इस मामले पर चर्चा करने के लिए बुलाया है।

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमेंटो है, जो सिंथेटिक मीडिया है जिसमें एक मौजूदा छवि या वीडियो में एक व्यक्ति को किसी और की समानता से बदल दिया जाता है। कृत्रिम बुद्धिमत्ता द्वारा संचालित इस तकनीक का उपयोग यथार्थवादी लेकिन मनगढ़ंत सामग्री बनाने के लिए किया जा सकता है, जिससे महत्वपूर्ण नैतिक और कानूनी चिंताएं बढ़ जाती हैं, खासकर जब इसका उपयोग गैर-सहमति वाली पोर्नोग्राफी उत्पन्न करने या गलत सूचना फैलाने के लिए किया जाता है।

इंडोनेशिया द्वारा यह कदम अन्य सरकारी निकायों द्वारा की गई समान कार्रवाइयों के बाद उठाया गया है। भारत के आईटी मंत्रालय ने xAI को Grok को अश्लील सामग्री उत्पन्न करने से रोकने के लिए उपाय लागू करने का आदेश दिया। यूरोपीय आयोग ने कंपनी को Grok से संबंधित सभी दस्तावेजों को बनाए रखने का भी निर्देश दिया, जो संभावित रूप से एक औपचारिक जांच की शुरुआत का संकेत देता है। यूनाइटेड किंगडम में, संचार नियामक, ऑफकॉम ने भी इस मुद्दे को संबोधित किया है।

Grok, xAI द्वारा विकसित एक AI चैटबॉट है, जो एलोन मस्क की कृत्रिम बुद्धिमत्ता कंपनी है। इसे सवालों के जवाब देने और बातचीत में शामिल होने के लिए डिज़ाइन किया गया है, जो ChatGPT और Google के Gemini जैसे अन्य बड़े भाषा मॉडल के समान है। हालांकि, इसके दुरुपयोग की संभावना के बारे में चिंताएं जताई गई हैं, खासकर हानिकारक या आपत्तिजनक सामग्री के निर्माण में।

इंडोनेशिया में Grok को ब्लॉक करना AI-जनित सामग्री के नैतिक निहितार्थों को संबोधित करने में तकनीकी कंपनियों और नियामकों के सामने आने वाली बढ़ती चुनौतियों को उजागर करता है। यह घटना AI तकनीकों के दुरुपयोग को रोकने और व्यक्तियों को नुकसान से बचाने के लिए मजबूत सुरक्षा उपायों और सामग्री मॉडरेशन नीतियों की आवश्यकता को रेखांकित करती है। इंडोनेशियाई सरकार की कार्रवाइयां समान मुद्दों से जूझ रहे अन्य देशों के लिए एक मिसाल कायम कर सकती हैं, जो संभावित रूप से AI चैटबॉट और अन्य जेनरेटिव AI उपकरणों के भविष्य के विकास और तैनाती को प्रभावित करती हैं। इंडोनेशियाई अधिकारियों और X प्रतिनिधियों के बीच चर्चा का परिणाम अभी देखा जाना बाकी है, लेकिन इससे क्षेत्र में Grok की भविष्य की उपलब्धता और कार्यक्षमता प्रभावित होने की उम्मीद है।