इंडोनेशियाई अधिकारियों ने शनिवार को बताया कि वे xAI के चैटबॉट, Grok तक पहुंच को अस्थायी रूप से अवरुद्ध कर रहे हैं, यह कार्रवाई AI द्वारा उत्पन्न गैर-सहमति वाले, यौनिकृत डीपफेक के प्रसार के जवाब में की गई है। यह कदम वास्तविक महिलाओं और नाबालिगों को दर्शाने वाली AI-जनित इमेजरी के संबंध में अब तक की सबसे कठोर सरकारी कार्रवाइयों में से एक है, जिसमें कभी-कभी हमले और दुर्व्यवहार के चित्रण भी शामिल होते हैं, जिन्हें सोशल नेटवर्क X पर उपयोगकर्ता अनुरोधों के आधार पर Grok द्वारा निर्मित किया गया था।

इंडोनेशिया की संचार और डिजिटल मंत्री, मेउत्या हफीद ने कहा कि "सरकार गैर-सहमति वाले यौन डीपफेक की प्रथा को मानवाधिकारों, गरिमा और डिजिटल स्पेस में नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है," यह बयान द गार्जियन और अन्य प्रकाशनों के साथ साझा किया गया। मंत्रालय ने कथित तौर पर X के अधिकारियों को इस मुद्दे पर चर्चा करने के लिए बुलाया है। X और xAI एक ही स्वामित्व के अधीन हैं।

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमैंटो है, जो सिंथेटिक मीडिया है जिसमें मौजूदा छवि या वीडियो में किसी व्यक्ति को कृत्रिम बुद्धिमत्ता का उपयोग करके किसी और की समानता से बदल दिया जाता है। यह तकनीक परिष्कृत एल्गोरिदम पर निर्भर करती है, जिसमें अक्सर तंत्रिका नेटवर्क शामिल होते हैं, जो चेहरे के भावों, भाषण पैटर्न और शरीर की गतिविधियों का विश्लेषण और प्रतिकृति करते हैं, जिससे डीपफेक को प्रामाणिक सामग्री से अलग करना तेजी से मुश्किल हो जाता है।

इंडोनेशियाई सरकार की कार्रवाई अन्य अंतरराष्ट्रीय निकायों द्वारा उठाई गई समान चिंताओं के बाद हुई है। भारत के आईटी मंत्रालय ने xAI को Grok को अश्लील सामग्री उत्पन्न करने से रोकने के लिए उपाय लागू करने का आदेश दिया। साथ ही, यूरोपीय आयोग ने कंपनी को Grok से संबंधित सभी दस्तावेजों को बनाए रखने का निर्देश दिया, जो संभावित रूप से एक औपचारिक जांच की प्रस्तावना का संकेत देता है। यूनाइटेड किंगडम में, संचार नियामक, ऑफकॉम ने भी इस मुद्दे को संबोधित किया है।

xAI द्वारा विकसित Grok, एक बड़ा भाषा मॉडल (LLM) है जिसे मानव-जैसा पाठ उत्पन्न करने के लिए डिज़ाइन किया गया है। LLM को पाठ और कोड के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे प्रश्नों का उत्तर देने, विभिन्न प्रकार की रचनात्मक सामग्री लिखने और भाषाओं का अनुवाद करने सहित विभिन्न कार्यों को करने में सक्षम होते हैं। हालांकि, यथार्थवादी और व्यक्तिगत सामग्री उत्पन्न करने की तकनीक की क्षमता से इसके दुरुपयोग की संभावना के बारे में भी चिंताएं बढ़ जाती हैं, खासकर भ्रामक या हानिकारक सामग्री बनाने में।

इन नियामक कार्रवाइयों का उद्योग पर महत्वपूर्ण प्रभाव पड़ता है, जिससे संभावित रूप से AI डेवलपर्स के लिए सख्त दिशानिर्देश और निरीक्षण हो सकते हैं। LLM बनाने वाली कंपनियों को हानिकारक सामग्री, जिसमें यौनिकृत डीपफेक शामिल हैं, के उत्पादन को रोकने के लिए सुरक्षा उपाय लागू करने के लिए बढ़ते दबाव का सामना करना पड़ सकता है। इसमें अधिक परिष्कृत सामग्री फ़िल्टर विकसित करना, उपयोगकर्ता सत्यापन प्रक्रियाओं को बढ़ाना और सेवा की सख्त शर्तों को लागू करना शामिल हो सकता है।

वर्तमान स्थिति में इंडोनेशियाई अधिकारियों और X प्रतिनिधियों के बीच आगे की चर्चाओं की प्रतीक्षा करते हुए इंडोनेशिया में Grok को अस्थायी रूप से अवरुद्ध करना शामिल है। इन चर्चाओं का परिणाम और अंतरराष्ट्रीय चिंताओं के जवाब में xAI द्वारा की गई कार्रवाइयां संभवतः इंडोनेशिया में Grok की भविष्य की उपलब्धता का निर्धारण करेंगी और संभावित रूप से विश्व स्तर पर AI-संचालित चैटबॉट के लिए नियामक परिदृश्य को प्रभावित करेंगी।