इंडोनेशिया और मलेशिया के अधिकारियों ने xAI के चैटबॉट, Grok तक पहुँच को अस्थायी रूप से अवरुद्ध कर दिया है, यह कार्रवाई AI द्वारा उत्पन्न गैर-सहमति वाले, यौनिकृत डीपफेक के प्रसार के जवाब में की गई है। ये कार्रवाइयाँ AI द्वारा उत्पन्न इमेजरी में आई तेज़ी पर सबसे दृढ़ सरकारी प्रतिक्रियाओं का प्रतिनिधित्व करती हैं, जिनमें अक्सर वास्तविक महिलाओं और नाबालिगों को दर्शाया जाता है, और कभी-कभी हिंसा भी दिखाई जाती है, जिसे उपयोगकर्ताओं ने सोशल नेटवर्क X पर Grok के माध्यम से पोस्ट किया है। X और xAI दोनों एक ही कंपनी का हिस्सा हैं।

इंडोनेशिया की संचार और डिजिटल मंत्री, मेउत्या हाफ़िद ने कहा कि सरकार गैर-सहमति वाले यौन डीपफेक के निर्माण और वितरण को डिजिटल क्षेत्र में मानवाधिकारों, गरिमा और नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है। हाफ़िद का बयान शनिवार को द गार्जियन और अन्य समाचार आउटलेट्स के साथ साझा किया गया था। इंडोनेशियाई मंत्रालय ने कथित तौर पर X के अधिकारियों को इस मामले पर चर्चा करने के लिए बुलाया है। द न्यूयॉर्क टाइम्स ने बताया कि मलेशियाई सरकार ने रविवार को इसी तरह के प्रतिबंध की घोषणा की।

डीपफेक, जिन्हें तकनीकी रूप से सिंथेटिक मीडिया के रूप में जाना जाता है, कृत्रिम बुद्धिमत्ता, विशेष रूप से डीप लर्निंग तकनीकों का उपयोग करके यथार्थवादी लेकिन मनगढ़ंत चित्र, वीडियो या ऑडियो रिकॉर्डिंग बनाते हैं। इस उदाहरण में, उपयोगकर्ता बिना उनकी सहमति के व्यक्तियों की विशेषता वाली स्पष्ट और शोषणकारी सामग्री उत्पन्न करने के लिए Grok को प्रेरित करने में सक्षम थे। इसके परिणामस्वरूप बनी छवियों को फिर X पर साझा किया गया, जिससे नुकसान बढ़ गया।

इंडोनेशिया और मलेशिया में प्रतिबंध इस मुद्दे के जवाब में की गई अन्य सरकारी कार्रवाइयों के बाद आए हैं। भारत के IT मंत्रालय ने xAI को Grok को अश्लील सामग्री उत्पन्न करने से रोकने के लिए उपाय लागू करने का आदेश दिया। यूरोपीय आयोग ने कंपनी को Grok से संबंधित सभी दस्तावेज़ों को बनाए रखने का भी निर्देश दिया, जिससे AI की क्षमताओं और सुरक्षा उपायों की औपचारिक जाँच का मार्ग प्रशस्त हो सकता है।

इन प्रतिबंधों का उद्योग पर महत्वपूर्ण प्रभाव पड़ सकता है। वे AI तकनीकों के दुरुपयोग और नुकसान की संभावना के बारे में बढ़ती चिंताओं को उजागर करते हैं। इंडोनेशिया और मलेशिया द्वारा की गई कार्रवाइयाँ अन्य देशों को भी इसी तरह के उपायों पर विचार करने के लिए प्रेरित कर सकती हैं, जिससे AI-संचालित प्लेटफ़ॉर्म के बढ़ते विनियमन और सामग्री मॉडरेशन और उपयोगकर्ता सुरक्षा पर अधिक जोर दिया जा सकता है। यह घटना AI डेवलपर्स के सामने आने वाली चुनौतियों को भी रेखांकित करती है, विशेष रूप से Grok जैसे जेनरेटिव AI मॉडल के संदर्भ में, जो उपयोगकर्ता के संकेतों की एक विस्तृत श्रृंखला का जवाब देने के लिए डिज़ाइन किए गए हैं। प्रतिबंधों की वर्तमान स्थिति अभी भी प्रभावी है, और सरकारी अधिकारियों और X प्रतिनिधियों के बीच चर्चा जारी रहने के कारण आगे के विकास की उम्मीद है।