मलेशिया और इंडोनेशिया ने एलन मस्क के एक्स प्लेटफॉर्म द्वारा विकसित कृत्रिम बुद्धिमत्ता चैटबॉट, ग्रोके (Grok) तक पहुँच को अवरुद्ध कर दिया है, क्योंकि इसकी यौन रूप से स्पष्ट डीपफेक (deepfake) उत्पन्न करने की क्षमता को लेकर चिंताएँ हैं। दोनों देशों के संचार मंत्रालयों ने सप्ताहांत में अलग-अलग बयानों में प्रतिबंधों की घोषणा की, जिसमें एआई उपकरण के दुरुपयोग की संभावना का हवाला दिया गया, खासकर महिलाओं और बच्चों से जुड़ी पोर्नोग्राफिक और गैर-सहमति वाली छवियों के निर्माण में।

ग्रोके, जो उपयोगकर्ताओं को चित्र उत्पन्न करने की अनुमति देता है, कथित तौर पर व्यक्तियों की मौजूदा छवियों को संपादित करने के लिए उपयोग किया गया है, जिसमें उन्हें उत्तेजक या समझौता करने वाली स्थितियों में दर्शाया गया है। मलेशियाई संचार और मल्टीमीडिया आयोग ने रविवार को कहा कि उसने वर्ष की शुरुआत में एक्स को नोटिस जारी किए थे, जिसमें ग्रोके के "बार-बार दुरुपयोग" को रोकने के लिए सख्त उपायों का अनुरोध किया गया था। ये दक्षिण पूर्व एशियाई राष्ट्र एआई उपकरण पर इस तरह का प्रतिबंध लगाने वाले पहले देश हैं।

डीपफेक, उन्नत एआई तकनीकों का एक उत्पाद है, जो यथार्थवादी लेकिन मनगढ़ंत छवियों, वीडियो या ऑडियो रिकॉर्डिंग बनाने के लिए डीप लर्निंग का उपयोग करता है। यह तकनीक महत्वपूर्ण नैतिक चिंताएँ पैदा करती है, विशेष रूप से सहमति, गोपनीयता और दुर्भावनापूर्ण उपयोग की संभावना के संबंध में, जैसे कि गलत सूचना फैलाना या मानहानिकारक सामग्री बनाना। एआई की अति-यथार्थवादी जालसाजी उत्पन्न करने की क्षमता वास्तविकता और निर्माण के बीच की रेखा को धुंधला कर देती है, जिससे व्यक्तियों और समाज के लिए प्रामाणिक सामग्री को हेरफेर किए गए मीडिया से अलग करने में चुनौतियाँ पैदा होती हैं।

मलेशिया और इंडोनेशिया में प्रतिबंध एआई प्रौद्योगिकियों के संभावित दुरुपयोग के बारे में बढ़ती अंतरराष्ट्रीय चिंताओं को उजागर करते हैं। यूनाइटेड किंगडम में, प्रौद्योगिकी सचिव ने ग्रोके पर इसी तरह के प्रतिबंध के लिए समर्थन व्यक्त किया है, जिससे मस्क की आलोचना हुई है, जिन्होंने सरकार पर भाषण की स्वतंत्रता को दबाने का प्रयास करने का आरोप लगाया है। यह बहस नुकसान को रोकने के लिए एआई को विनियमित करने की आवश्यकता और अभिव्यक्ति की स्वतंत्रता की रक्षा करने की इच्छा के बीच तनाव को रेखांकित करती है।

मलेशिया और इंडोनेशिया द्वारा की गई कार्रवाइयाँ एआई-जनित डीपफेक से जुड़े संभावित नुकसानों को दूर करने के लिए एक सक्रिय दृष्टिकोण को दर्शाती हैं। प्रतिबंध अन्य एआई डेवलपर्स और प्लेटफार्मों के लिए एक चेतावनी के रूप में काम करते हैं ताकि वे अपनी तकनीकों के दुरुपयोग को रोकने के लिए सुरक्षा उपायों को लागू करें। स्थिति तरल बनी हुई है, और यह उम्मीद की जाती है कि आगे की चर्चाएँ और नियामक कार्रवाई होंगी क्योंकि सरकारें कृत्रिम बुद्धिमत्ता के तेजी से विकसित हो रहे परिदृश्य से जूझ रही हैं।