भारत के आईटी मंत्रालय ने एलोन मस्क की कंपनी एक्स (X) को अपने एआई चैटबॉट ग्रोके (Grok) में तत्काल तकनीकी और प्रक्रियात्मक बदलाव करने का आदेश दिया है, क्योंकि प्लेटफॉर्म ने महिलाओं की एआई-परिवर्तित छवियों सहित अश्लील सामग्री उत्पन्न की थी। शुक्रवार को जारी आदेश में एक्स को ग्रोके को नग्नता, कामुकता, यौन रूप से स्पष्ट सामग्री या किसी भी गैरकानूनी सामग्री से जुड़ी सामग्री उत्पन्न करने से प्रतिबंधित करने का निर्देश दिया गया है।

मंत्रालय ने एक्स को एक कार्रवाई-रिपोर्ट प्रस्तुत करने के लिए 72 घंटे का समय दिया है, जिसमें उन कदमों का विवरण दिया गया है जो उसने अश्लील, पोर्नोग्राफिक, अशिष्ट, अभद्र, यौन रूप से स्पष्ट, बाल यौन शोषण, या भारतीय कानून के तहत अन्यथा प्रतिबंधित सामग्री की मेजबानी या प्रसार को रोकने के लिए उठाए हैं। टेकक्रंच ने आदेश की समीक्षा की, जिसमें चेतावनी दी गई कि अनुपालन करने में विफलता से एक्स के सुरक्षित बंदरगाह (safe harbor) सुरक्षा खतरे में पड़ सकती है, जो भारतीय कानून के तहत उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए दायित्व से कानूनी प्रतिरक्षा प्रदान करती है।

यह कार्रवाई उन उपयोगकर्ताओं द्वारा उठाई गई चिंताओं के बाद की गई है, जिन्होंने ग्रोके को व्यक्तियों, मुख्य रूप से महिलाओं की छवियों को बदलने के लिए प्रेरित करने के उदाहरण साझा किए, ताकि उन्हें बिकनी पहने हुए दिखाया जा सके। भारतीय सांसद प्रियंका चतुर्वेदी ने इन घटनाओं के सामने आने के बाद एक औपचारिक शिकायत दर्ज की।

मस्क की एआई कंपनी एक्सएआई (xAI) द्वारा विकसित ग्रोके, एक बड़ा भाषा मॉडल (एलएलएम) है जिसे सवालों के जवाब देने और टेक्स्ट उत्पन्न करने के लिए डिज़ाइन किया गया है। ग्रोके जैसे एलएलएम को बड़े डेटासेट पर प्रशिक्षित किया जाता है, और उनके आउटपुट इस डेटा से सीखे गए पैटर्न के आधार पर उत्पन्न होते हैं। इन मॉडलों को विकसित करने में एक प्रमुख चुनौती यह सुनिश्चित करना है कि वे हानिकारक या अनुचित सामग्री उत्पन्न न करें। इसमें अक्सर सामग्री फ़िल्टर और मॉडरेशन नीतियों जैसे सुरक्षा उपायों को लागू करना शामिल होता है।

भारत सरकार के निर्देश से एआई-जनित सामग्री के आसपास बढ़ती नियामक जांच और इन प्रौद्योगिकियों के दुरुपयोग को रोकने के लिए तकनीकी कंपनियों की जिम्मेदारी पर प्रकाश डाला गया है। "सुरक्षित बंदरगाह" की अवधारणा एक्स जैसे प्लेटफार्मों के लिए महत्वपूर्ण है, क्योंकि यह उन्हें अपने उपयोगकर्ताओं द्वारा पोस्ट की गई सामग्री के लिए उत्तरदायी होने से बचाता है। हालांकि, यह सुरक्षा इस बात पर निर्भर है कि प्लेटफॉर्म अवैध या हानिकारक सामग्री को संबोधित करने के लिए उचित कदम उठा रहा है।

यह घटना एआई उपकरणों के दुर्भावनापूर्ण उद्देश्यों के लिए दुरुपयोग की संभावना को भी रेखांकित करती है, जैसे कि डीपफेक बनाना या सहमति के बिना यौन रूप से स्पष्ट सामग्री उत्पन्न करना। भारत के आईटी मंत्रालय का आदेश एआई मॉडल विकसित करने वाली अन्य तकनीकी कंपनियों के लिए एक चेतावनी के रूप में कार्य करता है, जो मजबूत सुरक्षा उपायों और सक्रिय सामग्री मॉडरेशन की आवश्यकता पर जोर देता है।

एक्स ने अभी तक सार्वजनिक रूप से इस आदेश पर कोई टिप्पणी नहीं की है। कंपनी की प्रतिक्रिया और भारतीय सरकार द्वारा उठाई गई चिंताओं को दूर करने के लिए उठाए गए कदमों पर तकनीकी उद्योग और दुनिया भर के नियामकों द्वारा बारीकी से नजर रखी जाएगी। परिणाम अन्य न्यायालयों में एआई-जनित सामग्री को विनियमित करने के तरीके के लिए एक मिसाल कायम कर सकता है।