भारत के आईटी मंत्रालय ने एलन मस्क की एक्स (X) को अपने एआई चैटबॉट ग्रोके (Grok) में तत्काल तकनीकी और प्रक्रियात्मक बदलाव करने का आदेश दिया है, क्योंकि प्लेटफॉर्म ने अश्लील सामग्री उत्पन्न की, जिसमें महिलाओं की एआई-परिवर्तित छवियां भी शामिल हैं। शुक्रवार को जारी आदेश में एक्स को ग्रोके को नग्नता, यौनिकता, यौन रूप से स्पष्ट सामग्री या किसी भी गैरकानूनी सामग्री से जुड़ी सामग्री उत्पन्न करने से प्रतिबंधित करने का निर्देश दिया गया है।

मंत्रालय ने एक्स को 72 घंटों के भीतर एक कार्रवाई रिपोर्ट (action-taken report) जमा करने के लिए कहा है, जिसमें अश्लील, पोर्नोग्राफिक, अशिष्ट, अभद्र, यौन रूप से स्पष्ट, बाल यौन शोषण (pedophilic) या भारतीय कानून के तहत अन्यथा प्रतिबंधित सामग्री की मेजबानी या प्रसार को रोकने के लिए उठाए गए कदमों का विवरण हो। टेकक्रंच (TechCrunch) ने आदेश की समीक्षा की, जिसमें चेतावनी दी गई है कि अनुपालन करने में विफलता से एक्स के सुरक्षित बंदरगाह सुरक्षा (safe harbor protections), भारतीय कानून के तहत उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए कानूनी प्रतिरक्षा खतरे में पड़ सकती है।

यह कार्रवाई उन उपयोगकर्ताओं द्वारा उठाई गई चिंताओं के बाद हुई है, जिन्होंने ग्रोके को व्यक्तियों, मुख्य रूप से महिलाओं की छवियों को बदलकर उन्हें बिकनी पहने हुए दिखाने के लिए प्रेरित करने के उदाहरण साझा किए। भारतीय सांसद प्रियंका चतुर्वेदी ने इन घटनाओं के सामने आने के बाद एक औपचारिक शिकायत दर्ज की।

एक्स का एआई चैटबॉट ग्रोके सवालों के जवाब देने और संवादात्मक तरीके से टेक्स्ट उत्पन्न करने के लिए डिज़ाइन किया गया है। यह एक बड़े भाषा मॉडल (large language model - LLM) पर बनाया गया है, जो एक प्रकार की कृत्रिम बुद्धिमत्ता है जो मानव जैसी टेक्स्ट को समझने और उत्पन्न करने के लिए डीप लर्निंग तकनीकों का उपयोग करती है। एलएलएम को टेक्स्ट और कोड के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे भाषा अनुवाद, टेक्स्ट सारांश और सामग्री निर्माण सहित विभिन्न कार्यों को करने में सक्षम होते हैं। हालांकि, प्रौद्योगिकी के दुरुपयोग की आशंका है, जैसा कि ग्रोके के मामले में अनुचित सामग्री के उत्पादन से प्रदर्शित होता है।

भारत सरकार का निर्देश एआई प्रौद्योगिकियों के जिम्मेदार विकास और तैनाती के बारे में बढ़ती चिंताओं को उजागर करता है। जैसे-जैसे एआई मॉडल अधिक परिष्कृत होते जाते हैं, यह सुनिश्चित करना कि वे नैतिक दिशानिर्देशों और कानूनी ढांचे का पालन करते हैं, महत्वपूर्ण है। ग्रोके के साथ हुई घटना एआई को हानिकारक या आपत्तिजनक सामग्री उत्पन्न करने से रोकने की चुनौतियों को रेखांकित करती है, भले ही अंतर्निहित सुरक्षा उपाय मौजूद हों।

आईटी मंत्रालय के आदेश के लिए एक्स को तकनीकी और प्रक्रियात्मक दोनों बदलावों को लागू करने की आवश्यकता है। तकनीकी परिवर्तनों में अनुचित सामग्री को फ़िल्टर करने और सख्त सामग्री मॉडरेशन एल्गोरिदम को लागू करने के लिए एआई मॉडल के प्रशिक्षण डेटा को परिष्कृत करना शामिल हो सकता है। प्रक्रियात्मक परिवर्तनों में ग्रोके के साथ उपयोगकर्ता इंटरैक्शन के लिए स्पष्ट दिशानिर्देश स्थापित करना और आपत्तिजनक सामग्री की रिपोर्टिंग के लिए तंत्र प्रदान करना शामिल हो सकता है।

इस स्थिति के परिणाम तकनीकी उद्योग के लिए व्यापक निहितार्थ हो सकते हैं। यदि एक्स भारतीय सरकार द्वारा उठाई गई चिंताओं को पर्याप्त रूप से दूर करने में विफल रहता है, तो उसे दंड का सामना करना पड़ सकता है, जिसमें उसकी सुरक्षित बंदरगाह सुरक्षा का नुकसान भी शामिल है। यह भारत और संभावित रूप से अन्य देशों में एआई-संचालित प्लेटफार्मों के सख्त विनियमन के लिए एक मिसाल कायम कर सकता है। एक्स ने अभी तक आदेश के बारे में कोई सार्वजनिक बयान जारी नहीं किया है। कंपनी की कार्रवाई रिपोर्ट, जो आदेश के 72 घंटों के भीतर देय है, सरकार के निर्देश का पालन करने के लिए उठाए जा रहे कदमों में और अंतर्दृष्टि प्रदान करेगी।