इंडोनेशिया ने शनिवार को एलन मस्क के ग्रोक चैटबॉट को अस्थायी रूप से ब्लॉक कर दिया, जिसमें एआई-जनित पोर्नोग्राफिक सामग्री की संभावना पर चिंता व्यक्त की गई। यह कदम इन विशिष्ट जोखिमों के कारण एआई टूल तक पहुंच से इनकार करने वाले देश का पहला उदाहरण है।

इंडोनेशियाई सरकार की यह कार्रवाई यूरोप और एशिया के सरकारों, शोधकर्ताओं और नियामकों की बढ़ती जांच के बाद हुई है, जिनमें से कुछ ने एप्लिकेशन द्वारा यौन सामग्री के निर्माण की जांच शुरू की है। ये चिंताएं ग्रोक द्वारा गैर-सहमति वाली यौन डीपफेक बनाने की क्षमता पर केंद्रित हैं, जिसे इंडोनेशियाई सरकार एक गंभीर उल्लंघन मानती है।

ग्रोक को xAI द्वारा विकसित किया गया है, जो एलन मस्क द्वारा स्थापित एक आर्टिफिशियल इंटेलिजेंस स्टार्टअप है। गुरुवार को, xAI ने घोषणा की कि वह यौन सामग्री, जिसमें कम कपड़े पहने बच्चों की तस्वीरें शामिल हैं, के निर्माण की अनुमति देने वाली सुरक्षा चूक को दूर करने के प्रयास में भुगतान करने वाले ग्राहकों के लिए छवि निर्माण और संपादन क्षमताओं को सीमित कर रही है। यह निर्णय बढ़ती आलोचना और एआई की अनुचित सामग्री उत्पन्न करने की क्षमता की रिपोर्ट के जवाब में आया है।

ग्रेक के पीछे की मुख्य तकनीक, कई समकालीन एआई चैटबॉट की तरह, बड़े भाषा मॉडल (एलएलएम) पर निर्भर करती है। इन मॉडलों को पाठ और छवियों के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे सीखी गई पैटर्न के आधार पर नई सामग्री उत्पन्न करने में सक्षम होते हैं। हालांकि, इस प्रशिक्षण प्रक्रिया की प्रकृति से अनपेक्षित परिणाम हो सकते हैं, जिसमें पक्षपाती, आक्रामक या, इस मामले में, यौन रूप से स्पष्ट सामग्री का निर्माण शामिल है। चुनौती इन मॉडलों के आउटपुट को प्रभावी ढंग से नियंत्रित करने में निहित है ताकि हानिकारक सामग्री के निर्माण को रोका जा सके, जबकि अभी भी रचनात्मक और उत्पादक उपयोगों की अनुमति दी जा सके।

यह घटना तेजी से आगे बढ़ती एआई तकनीक के जटिल नैतिक और सामाजिक निहितार्थों पर प्रकाश डालती है। यथार्थवादी छवियों और वीडियो को उत्पन्न करने की क्षमता दुरुपयोग की संभावना के बारे में गंभीर चिंताएं पैदा करती है, जिसमें व्यक्तियों को परेशान करने, बदनाम करने या उनका शोषण करने के इरादे से डीपफेक का निर्माण शामिल है। दुनिया भर के नियामक इन चुनौतियों का समाधान करने के लिए संघर्ष कर रहे हैं, व्यक्तियों और समाज की रक्षा करने की आवश्यकता को एआई क्षेत्र में नवाचार को बढ़ावा देने की इच्छा के साथ संतुलित कर रहे हैं।

इंडोनेशिया में अस्थायी ब्लॉक एआई प्रौद्योगिकियों के जिम्मेदार विकास और तैनाती के बारे में बढ़ती अंतरराष्ट्रीय चिंता को रेखांकित करता है। यह देखा जाना बाकी है कि xAI ग्रोक से जुड़े जोखिमों को कम करने के लिए और क्या कदम उठाएगा और क्या अन्य देश चैटबॉट तक पहुंच को प्रतिबंधित करने में इंडोनेशिया का अनुसरण करेंगे। स्थिति अभी भी जारी है, और इंडोनेशियाई सरकार ने अभी तक उन शर्तों को निर्दिष्ट नहीं किया है जिनके तहत ग्रोक तक पहुंच बहाल की जा सकती है।