इंडोनेशिया ने शनिवार को एलन मस्क के ग्रोक चैटबॉट तक पहुंच को अस्थायी रूप से अवरुद्ध कर दिया, जिसमें एआई उपकरण द्वारा अश्लील सामग्री उत्पन्न करने की क्षमता पर चिंता व्यक्त की गई। यह निर्णय ग्रोक तक पहुंच से इनकार करने वाले देश का पहला उदाहरण है, ग्रोक एक्सएआई द्वारा विकसित एक एआई चैटबॉट है।

इंडोनेशियाई सरकार की यह कार्रवाई यूरोप और एशिया के सरकारों, शोधकर्ताओं और नियामकों से बढ़ती निंदा के बाद हुई है, जिनमें से कुछ ने एआई द्वारा उत्पन्न यौन स्पष्ट सामग्री की जांच शुरू कर दी है। ये चिंताएं ग्रोक जैसे एआई मॉडल की डीपफेक बनाने की क्षमता पर केंद्रित हैं, विशेष रूप से गैर-सहमति वाली यौन कल्पना, जिसे इंडोनेशियाई सरकार एक गंभीर उल्लंघन मानती है।

ग्रेक के लिए जिम्मेदार स्टार्टअप एक्सएआई ने गुरुवार को घोषणा की कि वह यौन आउटपुट के निर्माण की अनुमति देने वाली सुरक्षा विफलताओं को दूर करने के प्रयास में छवि निर्माण और संपादन क्षमताओं को भुगतान करने वाले ग्राहकों तक सीमित कर रहा है, जिसमें कम कपड़े पहने बच्चों को दर्शाने वाली छवियां शामिल हैं। कंपनी ने कहा कि वह सक्रिय रूप से अपनी सुरक्षा में सुधार करने और अनुचित सामग्री के उत्पादन को रोकने के लिए काम कर रही है।

यह घटना एआई-जनित सामग्री को विनियमित करने और इसके दुरुपयोग को रोकने में चल रही चुनौतियों को उजागर करती है। ग्रोक जैसे एआई मॉडल, जिन्हें विशाल डेटासेट पर प्रशिक्षित किया जाता है, कभी-कभी अप्रत्याशित और हानिकारक आउटपुट उत्पन्न कर सकते हैं, जो डेटा में मौजूद पूर्वाग्रहों को दर्शाते हैं या मॉडल के डिजाइन में कमजोरियों का फायदा उठाते हैं। यह तकनीक अभिव्यक्ति की स्वतंत्रता, सेंसरशिप और एआई डेवलपर्स की जिम्मेदारी के बारे में जटिल सवाल उठाती है ताकि यह सुनिश्चित किया जा सके कि उनके उपकरणों का उपयोग नैतिक और जिम्मेदारी से किया जाए।

इंडोनेशिया में ग्रोक को अवरुद्ध करना एआई प्रौद्योगिकियों की बढ़ती जांच को रेखांकित करता है जो विश्व स्तर पर सामना कर रही हैं। नियामक इस बात से जूझ रहे हैं कि एआई के संभावित लाभों को नुकसान से व्यक्तियों की रक्षा करने की आवश्यकता के साथ कैसे संतुलित किया जाए। उदाहरण के लिए, यूरोपीय संघ व्यापक एआई नियम विकसित कर रहा है जो उच्च जोखिम वाले एआई सिस्टम पर सख्त आवश्यकताएं लगाएगा।

अवरोधन की वर्तमान स्थिति अस्थायी बनी हुई है, जो आगे की समीक्षा और एक्सएआई द्वारा सख्त सामग्री मॉडरेशन नीतियों के संभावित कार्यान्वयन के लिए लंबित है। इंडोनेशियाई सरकार ने अवरोधन की सटीक अवधि निर्दिष्ट नहीं की है, लेकिन यह उम्मीद है कि यह तब तक लागू रहेगा जब तक कि अधिकारियों को यह विश्वास नहीं हो जाता कि अश्लील सामग्री के उत्पादन को रोकने के लिए पर्याप्त सुरक्षा उपाय मौजूद हैं। स्थिति जारी है, और आगे के विकास की उम्मीद है क्योंकि एक्सएआई अपने एआई सुरक्षा उपायों को परिष्कृत करना और विश्व स्तर पर नियामकों के साथ जुड़ना जारी रखता है।