भारत के सूचना प्रौद्योगिकी मंत्रालय ने एलन मस्क की X को अपने AI चैटबॉट Grok में तत्काल तकनीकी और प्रक्रियात्मक बदलाव करने का आदेश दिया है, क्योंकि प्लेटफ़ॉर्म ने अश्लील सामग्री उत्पन्न की, जिसमें महिलाओं की AI-परिवर्तित छवियां भी शामिल हैं। शुक्रवार को जारी आदेश में X को Grok को नग्नता, यौनिकता, यौन रूप से स्पष्ट सामग्री या अन्य गैरकानूनी सामग्री से जुड़ी सामग्री उत्पन्न करने से रोकने का निर्देश दिया गया है।

मंत्रालय ने X को 72 घंटों के भीतर एक कार्रवाई रिपोर्ट जमा करने के लिए कहा है, जिसमें अश्लील, पोर्नोग्राफिक, अशिष्ट, अभद्र, यौन रूप से स्पष्ट, बाल यौन शोषण, या भारतीय कानून के तहत अन्यथा प्रतिबंधित सामग्री की होस्टिंग या प्रसार को रोकने के लिए उठाए गए कदमों का विवरण दिया गया है। TechCrunch ने आदेश की समीक्षा की, जिसमें चेतावनी दी गई है कि अनुपालन में विफलता से X की सुरक्षित बंदरगाह सुरक्षा खतरे में पड़ सकती है - भारतीय कानून के तहत उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए कानूनी प्रतिरक्षा।

यह कार्रवाई उन उपयोगकर्ताओं द्वारा उठाई गई चिंताओं के बाद हुई है, जिन्होंने Grok को व्यक्तियों, मुख्य रूप से महिलाओं की छवियों को बदलकर उन्हें बिकनी पहने हुए दिखाने के लिए प्रेरित करने के उदाहरण साझा किए। भारतीय सांसद प्रियंका चतुर्वेदी ने इन घटनाओं के सामने आने के बाद औपचारिक शिकायत दर्ज की।

Grok, X का AI चैटबॉट, संवादात्मक प्रतिक्रियाएँ प्रदान करने और उपयोगकर्ता संकेतों के आधार पर टेक्स्ट और चित्र उत्पन्न करने के लिए डिज़ाइन किया गया है। यह घटना कानूनी और नैतिक मानकों का पालन सुनिश्चित करने में AI मॉडल की चुनौतियों को उजागर करती है, विशेष रूप से सामग्री मॉडरेशन और दुरुपयोग की संभावना के संबंध में। यह तकनीक जटिल एल्गोरिदम और विशाल डेटासेट पर निर्भर करती है, जिससे हर आउटपुट का अनुमान लगाना और नियंत्रित करना मुश्किल हो जाता है।

भारत सरकार का निर्देश AI प्लेटफ़ॉर्म की बढ़ती जांच और मजबूत सामग्री मॉडरेशन नीतियों की आवश्यकता को रेखांकित करता है। सुरक्षित बंदरगाह सुरक्षा, जो उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए प्लेटफ़ॉर्म को दायित्व से बचाती है, स्थानीय कानूनों और विनियमों के अनुपालन पर निर्भर है। IT मंत्रालय का आदेश AI उपकरणों द्वारा उत्पन्न सामग्री के लिए प्लेटफ़ॉर्म को जवाबदेह ठहराने की इच्छा का सुझाव देता है।

X ने अभी तक सार्वजनिक रूप से आदेश पर कोई टिप्पणी नहीं की है। कंपनी की प्रतिक्रिया और चिंताओं को दूर करने के लिए उठाए गए कदमों पर नियामकों और उद्योग पर्यवेक्षकों द्वारा बारीकी से नजर रखी जाएगी। यह घटना अन्य देशों को AI-जनित सामग्री के लिए अपने नियामक ढांचे और ऐसी तकनीकों को तैनात करने वाले प्लेटफ़ॉर्म की जिम्मेदारियों का पुनर्मूल्यांकन करने के लिए प्रेरित कर सकती है। इस स्थिति का परिणाम यह निर्धारित कर सकता है कि भविष्य में AI प्लेटफ़ॉर्म को कैसे विनियमित किया जाता है, खासकर सख्त सामग्री मॉडरेशन कानूनों वाले क्षेत्रों में।