मलेशिया और इंडोनेशिया ने एलन मस्क के एक्स प्लेटफॉर्म द्वारा विकसित कृत्रिम बुद्धिमत्ता चैटबॉट, ग्रोके (Grok) तक पहुंच को अवरुद्ध कर दिया है, जिसमें इसकी यौन रूप से स्पष्ट डीपफेक उत्पन्न करने की क्षमता पर चिंता व्यक्त की गई है। सप्ताहांत में संबंधित संचार मंत्रालयों द्वारा घोषित इस कदम से किसी भी राष्ट्र द्वारा एआई उपकरण पर प्रतिबंध लगाने का यह पहला उदाहरण है।

ग्रोके, जो उपयोगकर्ताओं को चित्र उत्पन्न करने की अनुमति देता है, कथित तौर पर वास्तविक व्यक्तियों को उत्तेजक या गैर-सहमति वाली स्थितियों में दर्शाने वाले डीपफेक बनाने के लिए दुरुपयोग किया गया है। मलेशियाई संचार और मल्टीमीडिया आयोग ने रविवार को कहा कि उसने वर्ष की शुरुआत में एक्स को नोटिस जारी किए थे, जिसमें ग्रोके के "बार-बार दुरुपयोग" को रोकने के लिए सख्त उपाय करने का अनुरोध किया गया था। मलेशिया और इंडोनेशिया दोनों ने चिंता व्यक्त की कि एआई का उपयोग पोर्नोग्राफिक चित्र बनाने के लिए किया जा सकता है, जिसमें महिलाएं और बच्चे भी शामिल हैं।

डीपफेक, उन्नत एआई तकनीकों का एक उत्पाद है, जो दृश्य और ऑडियो सामग्री में हेरफेर या उत्पन्न करने के लिए परिष्कृत एल्गोरिदम का उपयोग करता है, अक्सर वास्तविकता और निर्माण के बीच की रेखा को धुंधला कर देता है। जेनरेटिव एआई मॉडल, जैसे कि ग्रोके को शक्ति प्रदान करने वाला मॉडल, छवियों और पाठ के विशाल डेटासेट से सीखते हैं, जिससे वे नई सामग्री बनाने में सक्षम होते हैं जो उस डेटा से मिलती-जुलती है जिस पर उन्हें प्रशिक्षित किया गया था। यह क्षमता, रचनात्मक क्षमता प्रदान करते हुए, दुरुपयोग के बारे में नैतिक चिंताएं भी बढ़ाती है, खासकर गैर-सहमति वाली पोर्नोग्राफी और दुष्प्रचार के निर्माण में।

मलेशिया और इंडोनेशिया में प्रतिबंध तेजी से आगे बढ़ रही एआई तकनीकों द्वारा उत्पन्न बढ़ती नियामक चुनौतियों को उजागर करते हैं। दुनिया भर की सरकारें नवाचार को नागरिकों को संभावित नुकसान से बचाने की आवश्यकता के साथ संतुलित करने के तरीके से जूझ रही हैं। इस घटना ने एआई डेवलपर्स की अपने उपकरणों के दुरुपयोग को रोकने के लिए सुरक्षा उपायों को लागू करने की जिम्मेदारी के बारे में भी सवाल उठाए हैं।

ग्रोके को ब्लॉक करने के फैसले ने भाषण की स्वतंत्रता और सेंसरशिप के बारे में बहस छेड़ दी है। यूनाइटेड किंगडम में, प्रौद्योगिकी सचिव मिशेल डोनेलन ने इसी तरह के प्रतिबंध के लिए समर्थन का संकेत दिया है, जिससे एलन मस्क की आलोचना हुई है, जिन्होंने सरकार पर स्वतंत्र भाषण को दबाने का प्रयास करने का आरोप लगाया है। यह बहस तकनीकी प्रगति, नैतिक विचारों और सामाजिक मूल्यों के बीच जटिल अंतःक्रिया को रेखांकित करती है।

मलेशिया और इंडोनेशिया में ग्रोके की वर्तमान स्थिति यह है कि पहुंच अवरुद्ध कर दी गई है। अगली घटनाओं में एक्स और संबंधित सरकारों के बीच उठाई गई चिंताओं को दूर करने और संभावित रूप से हानिकारक डीपफेक के निर्माण को रोकने के लिए उपाय लागू करने के बारे में चर्चा शामिल होने की संभावना है। यह घटना अन्य देशों में एआई तकनीकों पर आगे नियामक कार्रवाई को भी प्रेरित कर सकती है।