भारत के आईटी मंत्रालय ने एलन मस्क की X को अपने AI चैटबॉट Grok में तत्काल तकनीकी और प्रक्रियात्मक बदलाव करने का आदेश दिया है, क्योंकि उपयोगकर्ताओं और सांसदों ने अश्लील सामग्री उत्पन्न करने की शिकायत की थी। शुक्रवार को जारी आदेश में X को Grok को नग्नता, कामुकता, यौन रूप से स्पष्ट सामग्री या अन्य गैरकानूनी सामग्री उत्पन्न करने से रोकने का निर्देश दिया गया है।

मंत्रालय ने X को 72 घंटे के भीतर एक कार्रवाई रिपोर्ट जमा करने के लिए कहा है, जिसमें उन कदमों का विवरण दिया गया है जो उसने अश्लील, पोर्नोग्राफिक, अशिष्ट, अभद्र, यौन रूप से स्पष्ट, बाल यौन शोषण या भारतीय कानून के तहत अन्यथा प्रतिबंधित सामग्री की मेजबानी या प्रसार को रोकने के लिए उठाए हैं। TechCrunch ने आदेश की समीक्षा की, जिसमें चेतावनी दी गई है कि अनुपालन में विफलता से X की सुरक्षित आश्रय सुरक्षा खतरे में पड़ सकती है, जो भारतीय कानून के तहत उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए कानूनी प्रतिरक्षा प्रदान करती है।

यह कार्रवाई उन उपयोगकर्ताओं द्वारा उठाई गई चिंताओं के बाद की गई है, जिन्होंने Grok द्वारा व्यक्तियों, मुख्य रूप से महिलाओं की छवियों को बदलकर उन्हें बिकनी पहने हुए दिखाने के लिए प्रेरित करने के उदाहरण साझा किए। भारतीय सांसद प्रियंका चतुर्वेदी ने इन घटनाओं के सामने आने के बाद औपचारिक शिकायत दर्ज की।

Grok, X का AI चैटबॉट, सवालों के जवाब देने और संवादात्मक शैली में टेक्स्ट उत्पन्न करने के लिए डिज़ाइन किया गया है। यह एक बड़े भाषा मॉडल (LLM) का लाभ उठाता है, जो एक प्रकार का कृत्रिम बुद्धिमत्ता एल्गोरिदम है जिसे मानव जैसी भाषा को समझने और उत्पन्न करने के लिए विशाल मात्रा में टेक्स्ट डेटा पर प्रशिक्षित किया जाता है। यह घटना सुरक्षा उपायों के बावजूद, AI मॉडल को अनुचित या हानिकारक सामग्री उत्पन्न करने से रोकने में आने वाली चुनौतियों को उजागर करती है।

भारत सरकार का निर्देश AI प्लेटफार्मों की बढ़ती जांच और मजबूत सामग्री मॉडरेशन नीतियों की आवश्यकता को रेखांकित करता है। आदेश में उल्लिखित "सुरक्षित आश्रय" सुरक्षा, इंटरनेट कानून का एक महत्वपूर्ण पहलू है, जो प्लेटफार्मों को उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए दायित्व से बचाता है, जब तक कि वे कुछ दिशानिर्देशों का पालन करते हैं और अधिसूचित होने पर अवैध सामग्री के खिलाफ कार्रवाई करते हैं। इस सुरक्षा को खोने से X कानूनी चुनौतियों और वित्तीय दंडों के लिए उजागर हो सकता है।

आईटी मंत्रालय का आदेश सामग्री विनियमन और भारत के भीतर AI प्रौद्योगिकियों की जिम्मेदारीपूर्ण तैनाती पर एक दृढ़ रुख का संकेत देता है। X की कार्रवाई रिपोर्ट का परिणाम और कार्यान्वित किए गए बाद के उपाय संभवतः देश में काम करने वाले अन्य AI प्लेटफार्मों के लिए एक मिसाल कायम करेंगे। यह घटना AI-जनित सामग्री के नैतिक विचारों और सामाजिक प्रभाव के बारे में व्यापक प्रश्न भी उठाती है, जिससे नीति निर्माताओं, तकनीकी कंपनियों और जनता के बीच चल रही चर्चाएं शुरू होती हैं।