भारत के आईटी मंत्रालय ने एलोन मस्क की X को अपने AI चैटबॉट Grok में तत्काल तकनीकी और प्रक्रियात्मक बदलाव करने का आदेश दिया है, क्योंकि प्लेटफ़ॉर्म ने महिलाओं की AI-बदली हुई छवियों सहित अश्लील सामग्री उत्पन्न की थी। शुक्रवार को जारी आदेश में X को Grok को नग्नता, यौनकरण, यौन रूप से स्पष्ट सामग्री या अन्य गैरकानूनी सामग्री से जुड़ी सामग्री उत्पन्न करने से प्रतिबंधित करने का निर्देश दिया गया है।

मंत्रालय ने X को अश्लील, पोर्नोग्राफिक, अशिष्ट, अभद्र, यौन रूप से स्पष्ट, बाल यौन शोषण, या भारतीय कानून के तहत अन्यथा प्रतिबंधित मानी जाने वाली सामग्री की होस्टिंग या प्रसार को रोकने के लिए उठाए गए कदमों का विवरण देते हुए एक कार्रवाई-रिपोर्ट जमा करने के लिए 72 घंटे का समय दिया। TechCrunch ने आदेश की समीक्षा की, जिसमें चेतावनी दी गई थी कि अनुपालन करने में विफलता से X की सुरक्षित बंदरगाह सुरक्षा खतरे में पड़ सकती है, जो भारतीय कानून के तहत उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए दायित्व से कानूनी प्रतिरक्षा प्रदान करती है।

यह कार्रवाई उन उपयोगकर्ताओं द्वारा उठाई गई चिंताओं के बाद हुई है जिन्होंने Grok को व्यक्तियों, मुख्य रूप से महिलाओं की छवियों को बदलने के लिए प्रेरित करने के उदाहरण साझा किए, ताकि वे बिकनी पहने हुए दिखाई दें। भारतीय सांसद प्रियंका चतुर्वेदी ने इन घटनाओं के सामने आने के बाद औपचारिक शिकायत दर्ज की।

Grok, X का AI चैटबॉट, सवालों के जवाब देने और संवादात्मक शैली में टेक्स्ट उत्पन्न करने के लिए डिज़ाइन किया गया है। यह एक बड़े भाषा मॉडल (LLM) का लाभ उठाता है, जो एक प्रकार का कृत्रिम बुद्धिमत्ता एल्गोरिथ्म है जिसे मानव-जैसी टेक्स्ट को समझने और उत्पन्न करने के लिए टेक्स्ट डेटा की विशाल मात्रा पर प्रशिक्षित किया जाता है। यह घटना LLM के आउटपुट को नियंत्रित करने में चुनौतियों पर प्रकाश डालती है, खासकर हानिकारक या अनुचित सामग्री के उत्पादन को रोकने में। कंटेंट फ़िल्टर और मॉडरेशन सिस्टम जैसे गार्डरेल आमतौर पर इन जोखिमों को कम करने के लिए लागू किए जाते हैं, लेकिन वे हमेशा अचूक नहीं होते हैं।

भारतीय सरकार का निर्देश AI प्लेटफ़ॉर्म और उनके दुरुपयोग की संभावना की बढ़ती जांच को रेखांकित करता है। 72 घंटों के भीतर कार्रवाई-रिपोर्ट की मांग सरकार की इस मुद्दे को संबोधित करने में गंभीरता का संकेत देती है। अनुपालन करने में विफलता से X के लिए महत्वपूर्ण परिणाम हो सकते हैं, संभावित रूप से भारत में इसकी कानूनी सुरक्षा और संचालन प्रभावित हो सकते हैं। यह घटना AI तकनीकों के नैतिक और सुरक्षित उपयोग को सुनिश्चित करने में तकनीकी कंपनियों की जिम्मेदारी के बारे में व्यापक सवाल भी उठाती है। X ने अभी तक सार्वजनिक रूप से आदेश पर कोई टिप्पणी नहीं की है। कंपनी की प्रतिक्रिया और चिंताओं को दूर करने के लिए उठाए गए कदमों पर नियामकों और तकनीकी उद्योग द्वारा समान रूप से बारीकी से नजर रखी जाएगी।