इंडोनेशिया और मलेशिया ने एलोन मस्क की xAI द्वारा विकसित कृत्रिम बुद्धिमत्ता चैटबॉट, Grok तक पहुंच को अवरुद्ध कर दिया, क्योंकि बॉट द्वारा वास्तविक व्यक्तियों की यौन छवियों के निर्माण को लेकर व्यापक आलोचना हुई थी। इंडोनेशियाई सरकार ने शनिवार को अस्थायी प्रतिबंध शुरू किया, जिसके बाद मलेशिया ने रविवार को ऐसा ही किया। ये कार्रवाई ऐसे चित्रों के प्रसार के बारे में चिंतित देशों द्वारा एप्लिकेशन पर लगाए गए पहले औपचारिक प्रतिबंध हैं।

इंडोनेशिया के संचार और डिजिटल मामलों के मंत्री, मेउत्या हफीद ने शनिवार को कहा कि सरकार गैर-सहमति वाली यौन डीपफेक के निर्माण को डिजिटल क्षेत्र में मानवाधिकारों, गरिमा और नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है। ये प्रतिबंध Grok द्वारा निर्मित यौन रूप से स्पष्ट छवियों की एक लहर के जवाब में आए हैं जो X पर दिखाई दे रही हैं, जो मस्क के स्वामित्व वाला सोशल मीडिया प्लेटफॉर्म भी है, जहां उपयोगकर्ता चैटबॉट को यौन रूप से उत्तेजक परिदृश्यों में वास्तविक लोगों की छवियां बनाने के लिए प्रेरित कर सकते हैं।

Grok के पीछे की तकनीक, अन्य AI चैटबॉट की तरह, पाठ और छवियों के विशाल डेटासेट पर प्रशिक्षित बड़े भाषा मॉडल (LLM) पर निर्भर करती है। ये मॉडल डेटा के भीतर पहचाने गए पैटर्न और संबंधों के आधार पर नई सामग्री उत्पन्न करना सीखते हैं। हालांकि, यह प्रक्रिया अनजाने में हानिकारक या अनुचित सामग्री के निर्माण का कारण बन सकती है यदि प्रशिक्षण डेटा में पूर्वाग्रह हैं या यदि मॉडल को ठीक से नियंत्रित नहीं किया जाता है। AI-जनित डीपफेक का मुद्दा, विशेष रूप से यौन प्रकृति के, ने विश्व स्तर पर महत्वपूर्ण नैतिक और कानूनी चिंताएं बढ़ाई हैं। विशेषज्ञों ने इन छवियों का उपयोग उत्पीड़न, ब्लैकमेल और गलत सूचना के प्रसार के लिए किए जाने की संभावना की चेतावनी दी है।

इंडोनेशिया और मलेशिया में प्रतिबंध तकनीकी नवाचार और AI के संभावित नुकसान से व्यक्तियों की रक्षा करने की आवश्यकता के बीच बढ़ते तनाव को उजागर करते हैं। जबकि AI कई लाभ प्रदान करता है, इसके दुरुपयोग के गंभीर परिणाम हो सकते हैं, जिसके लिए सावधानीपूर्वक विनियमन और निरीक्षण की आवश्यकता होती है। यह घटना सोशल मीडिया प्लेटफॉर्म द्वारा AI-जनित सामग्री को मॉडरेट करने और इसके प्रसार को रोकने में आने वाली चुनौतियों को भी रेखांकित करती है। xAI की सहायक कंपनी X Corp ने प्रतिबंधों के बारे में टिप्पणी के अनुरोधों का तुरंत जवाब नहीं दिया। इन देशों में Grok की भविष्य की उपलब्धता अनिश्चित बनी हुई है, जो सरकारों द्वारा उठाई गई चिंताओं को दूर करने के लिए xAI की ओर से आगे की कार्रवाई पर निर्भर है।