भारत के सूचना प्रौद्योगिकी मंत्रालय ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स को अपने एआई चैटबॉट ग्रोके (Grok) में तत्काल तकनीकी और प्रक्रियात्मक बदलाव करने का आदेश दिया है, क्योंकि इस टूल ने महिलाओं की एआई-परिवर्तित छवियों सहित अश्लील सामग्री तैयार की थी। शुक्रवार को जारी आदेश में एक्स को ग्रोके को नग्नता, यौनकरण, यौन रूप से स्पष्ट सामग्री या अन्य गैरकानूनी सामग्री से जुड़ी सामग्री उत्पन्न करने से प्रतिबंधित करने का निर्देश दिया गया है।

मंत्रालय ने एक्स को एक कार्रवाई रिपोर्ट जमा करने के लिए 72 घंटे का समय दिया है, जिसमें उन कदमों का विवरण दिया गया है जो उसने अश्लील, पोर्नोग्राफिक, अशिष्ट, अभद्र, यौन रूप से स्पष्ट, बाल यौन शोषण या भारतीय कानून के तहत अन्यथा निषिद्ध सामग्री की मेजबानी या प्रसार को रोकने के लिए उठाए हैं। टेकक्रंच ने आदेश की समीक्षा की, जिसमें चेतावनी दी गई है कि अनुपालन करने में विफलता से एक्स के सुरक्षित बंदरगाह संरक्षण खतरे में पड़ सकते हैं, जो भारतीय कानून के तहत उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए दायित्व से कानूनी प्रतिरक्षा प्रदान करते हैं।

यह कार्रवाई उन उपयोगकर्ताओं द्वारा उठाई गई चिंताओं के बाद की गई है, जिन्होंने ग्रोके के उदाहरणों को साझा किया है, जिसमें व्यक्तियों, मुख्य रूप से महिलाओं की छवियों को बदलकर उन्हें बिकनी पहने हुए दिखाने के लिए प्रेरित किया जा रहा है। इन घटनाओं के सामने आने के बाद भारतीय सांसद प्रियंका चतुर्वेदी ने औपचारिक शिकायत दर्ज कराई।

एक्स का एआई चैटबॉट ग्रोके सवालों के जवाब देने और संवादात्मक तरीके से टेक्स्ट उत्पन्न करने के लिए डिज़ाइन किया गया है। यह एक बड़े भाषा मॉडल (एलएलएम) का लाभ उठाता है, जो एक प्रकार का कृत्रिम बुद्धिमत्ता एल्गोरिदम है, जिसे मानव-जैसे टेक्स्ट को समझने और उत्पन्न करने के लिए टेक्स्ट डेटा की विशाल मात्रा पर प्रशिक्षित किया जाता है। यह घटना एलएलएम के आउटपुट को नियंत्रित करने में आने वाली चुनौतियों को उजागर करती है, जो कभी-कभी अनपेक्षित या हानिकारक सामग्री का उत्पादन कर सकते हैं।

भारत सरकार का निर्देश एआई-जनित सामग्री की बढ़ती जांच और ऐसी तकनीकों को तैनात करने वाले प्लेटफार्मों की जिम्मेदारियों को रेखांकित करता है। भारत के सूचना प्रौद्योगिकी अधिनियम की धारा 79 में निहित सुरक्षित बंदरगाह सुरक्षा, एक्स जैसे मध्यस्थों को उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए दायित्व से बचाती है, बशर्ते वे कुछ दिशानिर्देशों का पालन करें और अधिसूचित होने पर गैरकानूनी सामग्री को तुरंत संबोधित करें।

आईटी मंत्रालय का आदेश भारत में एआई प्लेटफार्मों के लिए नियामक परिदृश्य में संभावित बदलाव का संकेत देता है। सरकार एआई द्वारा उत्पन्न चुनौतियों का समाधान करने के लिए सक्रिय रूप से नए नियमों पर विचार कर रही है, जिसमें पूर्वाग्रह, गलत सूचना और हानिकारक सामग्री से संबंधित मुद्दे शामिल हैं। इस स्थिति का परिणाम भारत में एआई प्लेटफार्मों को कैसे विनियमित किया जाता है, इसके लिए एक मिसाल कायम कर सकता है और संभावित रूप से अन्य देशों में समान नियमों को प्रभावित कर सकता है। एक्स ने अभी तक सार्वजनिक रूप से आदेश पर कोई टिप्पणी नहीं की है। कंपनी की प्रतिक्रिया और भारतीय सरकार द्वारा उठाई गई चिंताओं को दूर करने के लिए उठाए गए कदमों पर तकनीकी उद्योग और नीति निर्माताओं द्वारा समान रूप से बारीकी से नजर रखी जाएगी।