इंडोनेशियाई अधिकारियों ने शनिवार को कहा कि वे xAI के चैटबॉट Grok तक पहुंच को अस्थायी रूप से अवरुद्ध कर रहे हैं, इसका कारण गैर-सहमति वाले, यौनिकृत डीपफेक के निर्माण को लेकर चिंताएं हैं। यह कदम वास्तविक महिलाओं और नाबालिगों को दर्शाने वाली AI-जनित इमेजरी के प्रसार के प्रति सबसे कठोर सरकारी प्रतिक्रियाओं में से एक है, जिसमें हमले और दुर्व्यवहार के चित्रण शामिल हैं, जो कथित तौर पर सोशल नेटवर्क X पर उपयोगकर्ता संकेतों के जवाब में Grok द्वारा निर्मित किए गए थे। X और xAI का स्वामित्व एक ही कंपनी के पास है।

इंडोनेशिया की संचार और डिजिटल मंत्री मेउत्या हफ़ीद ने कहा कि सरकार गैर-सहमति वाले यौन डीपफेक के निर्माण को डिजिटल क्षेत्र में मानवाधिकारों, गरिमा और नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है। उनका बयान द गार्जियन और अन्य समाचार आउटलेट्स के साथ साझा किया गया था। मंत्रालय ने कथित तौर पर X के अधिकारियों को इस मुद्दे पर चर्चा करने के लिए बुलाया है।

डीपफेक, "डीप लर्निंग" और "फेक" का एक पोर्टमेंटो, कृत्रिम बुद्धिमत्ता, विशेष रूप से डीप लर्निंग तकनीकों का उपयोग करके अत्यधिक यथार्थवादी लेकिन मनगढ़ंत वीडियो या चित्र बनाता है। ये प्रौद्योगिकियां मौजूदा वीडियो में चेहरों को विश्वसनीय रूप से बदल सकती हैं या पूरी तरह से नई सिंथेटिक सामग्री उत्पन्न कर सकती हैं। चिंता दुर्भावनापूर्ण उपयोग की संभावना में निहित है, जिसमें मानहानिकारक सामग्री का निर्माण, गलत सूचना का प्रसार और, इस मामले में, गैर-सहमति वाली पोर्नोग्राफी का निर्माण शामिल है।

Grok, xAI का चैटबॉट, संवादात्मक शैली में सवालों के जवाब देने के लिए डिज़ाइन किया गया है और इसे X प्लेटफॉर्म में एकीकृत किया गया है। xAI के अनुसार, यह उन सवालों के जवाब देने की अपनी क्षमता से खुद को अलग करता है जिन्हें अन्य AI सिस्टम अस्वीकार कर सकते हैं। हालांकि, इस सुविधा ने हानिकारक सामग्री के निर्माण में योगदान दिया है।

इंडोनेशियाई सरकार की कार्रवाई अन्य देशों द्वारा उठाई गई समान चिंताओं के बाद हुई है। भारत के आईटी मंत्रालय ने xAI को Grok द्वारा अश्लील सामग्री उत्पन्न करने से रोकने के लिए उपाय करने का आदेश दिया। यूरोपीय आयोग ने भी कंपनी से Grok से संबंधित सभी दस्तावेजों को बनाए रखने का अनुरोध किया है, जो संभावित रूप से एक औपचारिक जांच की शुरुआत का संकेत देता है। यूनाइटेड किंगडम में, संचार नियामक Ofcom ने इस मुद्दे के बारे में अपनी जागरूकता बताई है।

इंडोनेशिया में Grok को अवरुद्ध करना तेजी से आगे बढ़ रही AI तकनीकों द्वारा उत्पन्न बढ़ती नियामक चुनौतियों पर प्रकाश डालता है। दुनिया भर की सरकारें नवाचार को संतुलित करने के साथ-साथ AI-जनित सामग्री के संभावित नुकसान से नागरिकों की रक्षा करने की आवश्यकता से जूझ रही हैं। इंडोनेशियाई सरकार का Grok को अवरुद्ध करने का निर्णय, यहां तक कि अस्थायी रूप से भी, इन चिंताओं को दूर करने के लिए निर्णायक कार्रवाई करने की इच्छा का संकेत देता है। इंडोनेशियाई अधिकारियों और X प्रतिनिधियों के बीच चर्चा का परिणाम देखा जाना बाकी है, लेकिन इससे क्षेत्र में AI चैटबॉट की भविष्य की उपलब्धता और विनियमन प्रभावित होने की संभावना है।