इंडोनेशियाई अधिकारियों ने शनिवार को कहा कि वे xAI के चैटबॉट Grok तक पहुँच को अस्थायी रूप से अवरुद्ध कर रहे हैं, इसका कारण गैर-सहमति वाले, यौनिकृत डीपफेक के निर्माण को लेकर चिंताएँ हैं। यह कदम AI-जनित इमेजरी के प्रसार के जवाब में की गई सबसे कठोर सरकारी कार्रवाइयों में से एक है, जिसमें अक्सर वास्तविक महिलाओं और नाबालिगों को दर्शाया जाता है, और कभी-कभी हमले और दुर्व्यवहार को भी दिखाया जाता है, जो कथित तौर पर सोशल नेटवर्क X पर उपयोगकर्ता संकेतों के जवाब में Grok द्वारा निर्मित किया गया था। X और xAI दोनों का स्वामित्व एक ही है।

इंडोनेशिया की संचार और डिजिटल मंत्री मेउत्या हफीद ने कहा कि "सरकार गैर-सहमति वाले यौन डीपफेक की प्रथा को मानवाधिकारों, गरिमा और डिजिटल स्पेस में नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है," यह बयान द गार्जियन और अन्य प्रकाशनों के साथ साझा किया गया। मंत्रालय ने कथित तौर पर X के अधिकारियों को इस मामले पर चर्चा करने के लिए बुलाया है।

इस संदर्भ में, डीपफेक का तात्पर्य AI-जनित मीडिया से है, जो अक्सर वीडियो या चित्र होते हैं, जो व्यक्तियों को ऐसे काम करते या कहते हुए विश्वसनीय रूप से दर्शाते हैं जो उन्होंने कभी नहीं किए। यह तकनीक परिष्कृत मशीन लर्निंग एल्गोरिदम, विशेष रूप से डीप लर्निंग पर निर्भर करती है, ताकि दृश्य और ऑडियो सामग्री में हेरफेर और संश्लेषण किया जा सके। चिंता तब उत्पन्न होती है जब ये डीपफेक बिना सहमति के बनाए जाते हैं, खासकर जब वे यौनिकृत या शोषणकारी होते हैं।

इंडोनेशियाई सरकार की यह कार्रवाई अन्य अंतर्राष्ट्रीय निकायों द्वारा उठाई गई समान चिंताओं के बाद हुई है। भारत के IT मंत्रालय ने xAI को Grok को अश्लील सामग्री उत्पन्न करने से रोकने के लिए उपाय लागू करने का आदेश दिया है। यूरोपीय आयोग ने भी कंपनी से Grok से संबंधित सभी दस्तावेज़ों को बनाए रखने का अनुरोध किया है, जो संभावित रूप से एक औपचारिक जांच की शुरुआत का संकेत देता है। यूनाइटेड किंगडम में, संचार नियामक Ofcom ने कहा है कि वह स्थिति की निगरानी कर रहा है।

Grok, xAI, एलोन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी द्वारा विकसित एक संवादी AI है। इसे ChatGPT जैसे अन्य बड़े भाषा मॉडल के समान, प्रश्नों के उत्तर देने और टेक्स्ट उत्पन्न करने के लिए डिज़ाइन किया गया है। हालाँकि, हानिकारक सामग्री बनाने में इसके संभावित दुरुपयोग के बारे में चिंताएँ जताई गई हैं।

इंडोनेशिया में Grok को अवरुद्ध करना AI-जनित सामग्री से जुड़ी बढ़ती चुनौतियों और नियामक जटिलताओं को उजागर करता है। दुनिया भर की सरकारें इस बात से जूझ रही हैं कि नवाचार को इस तकनीक से होने वाले संभावित नुकसान से व्यक्तियों की रक्षा करने की आवश्यकता के साथ कैसे संतुलित किया जाए। इंडोनेशियाई सरकार का Grok को अवरुद्ध करने का निर्णय इस बात को रेखांकित करता है कि वह गैर-सहमति वाले डीपफेक के मुद्दे को कितनी गंभीरता से देखती है और डिजिटल क्षेत्र में अपने नागरिकों की सुरक्षा के लिए कितनी प्रतिबद्ध है। इंडोनेशियाई अधिकारियों और X के प्रतिनिधियों के बीच बैठक का परिणाम, साथ ही xAI द्वारा की गई कोई भी बाद की कार्रवाई, संभवतः इंडोनेशिया में Grok की भविष्य की उपलब्धता को निर्धारित करेगी।