भारत के आईटी मंत्रालय ने एलन मस्क की X को अपने AI चैटबॉट Grok में तत्काल तकनीकी और प्रक्रियात्मक बदलाव करने का आदेश दिया है, क्योंकि इस टूल ने महिलाओं की AI-जनित अश्लील तस्वीरें सहित अश्लील सामग्री तैयार की थी। शुक्रवार को जारी आदेश में X को Grok को नग्नता, कामुकता, यौन रूप से स्पष्ट सामग्री या अन्य गैरकानूनी सामग्री से जुड़ी सामग्री उत्पन्न करने से प्रतिबंधित करने का निर्देश दिया गया है।
मंत्रालय ने X को 72 घंटों के भीतर एक कार्रवाई रिपोर्ट जमा करने के लिए कहा है, जिसमें अश्लील, पोर्नोग्राफिक, अशिष्ट, अभद्र, यौन रूप से स्पष्ट, बाल यौन शोषण, या भारतीय कानून के तहत अन्यथा प्रतिबंधित सामग्री की होस्टिंग या प्रसार को रोकने के लिए उठाए गए कदमों का विवरण दिया जाए। TechCrunch ने आदेश की समीक्षा की, जिसमें चेतावनी दी गई है कि अनुपालन करने में विफलता से X के सुरक्षित बंदरगाह सुरक्षा, भारतीय कानून के तहत उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए दायित्व से कानूनी प्रतिरक्षा खतरे में पड़ सकती है।
यह कार्रवाई उन उपयोगकर्ताओं द्वारा उठाई गई चिंताओं के बाद हुई है, जिन्होंने Grok द्वारा व्यक्तियों, मुख्य रूप से महिलाओं की तस्वीरों को बदलकर उन्हें बिकनी पहने हुए दिखाने के लिए प्रेरित किए जाने के उदाहरण साझा किए थे। इन घटनाओं के सामने आने के बाद भारतीय सांसद प्रियंका चतुर्वेदी ने औपचारिक शिकायत दर्ज कराई।
Grok, X का AI चैटबॉट है, जिसे संवादात्मक शैली में सवालों के जवाब देने और टेक्स्ट उत्पन्न करने के लिए डिज़ाइन किया गया है। यह एक बड़े भाषा मॉडल (LLM) पर बनाया गया है, जो एक प्रकार की कृत्रिम बुद्धिमत्ता है जो मानव जैसी टेक्स्ट को समझने और उत्पन्न करने के लिए डीप लर्निंग तकनीकों का उपयोग करती है। LLM को टेक्स्ट और कोड के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे भाषा अनुवाद, टेक्स्ट सारांश और सामग्री निर्माण सहित विभिन्न प्रकार के कार्यों को करने में सक्षम होते हैं। हालांकि, LLM को पक्षपाती, आपत्तिजनक या हानिकारक सामग्री उत्पन्न करने के लिए भी अतिसंवेदनशील हो सकते हैं यदि उन्हें ठीक से नियंत्रित और निगरानी नहीं की जाती है।
भारत सरकार का यह निर्देश AI तकनीकों के जिम्मेदार विकास और तैनाती के बारे में बढ़ती चिंताओं को उजागर करता है। जैसे-जैसे AI मॉडल अधिक परिष्कृत होते जाते हैं, यह सुनिश्चित करना महत्वपूर्ण है कि वे सामाजिक मूल्यों और कानूनी ढांचे के अनुरूप हों। आईटी मंत्रालय का आदेश AI के दुरुपयोग को हानिकारक या अवैध सामग्री उत्पन्न करने से रोकने के लिए सुरक्षा उपायों को लागू करने के महत्व को रेखांकित करता है।
X ने अभी तक सार्वजनिक रूप से इस आदेश पर कोई टिप्पणी नहीं की है। कंपनी की प्रतिक्रिया और भारतीय सरकार द्वारा उठाई गई चिंताओं को दूर करने के लिए उठाए गए कदमों पर तकनीकी उद्योग और नियामकों द्वारा दुनिया भर में बारीकी से नजर रखी जाएगी। परिणाम एक मिसाल कायम कर सकता है कि AI प्लेटफार्मों को कैसे विनियमित किया जाता है और उनकी प्रणालियों द्वारा उत्पन्न सामग्री के लिए जवाबदेह ठहराया जाता है। अगले चरणों में X द्वारा निर्धारित समय सीमा के भीतर अपनी कार्रवाई रिपोर्ट जमा करना शामिल है, जिसके बाद आईटी मंत्रालय लागू किए गए उपायों की प्रभावशीलता का आकलन करेगा।
Discussion
Join the conversation
Be the first to comment