विवाद के बाद X ने Grok इमेज जेन पर लगाई रोक; अब केवल पेड यूजर्स के लिए

एलन मस्क की AI कंपनी, X.AI ने Grok के इमेज जनरेशन फीचर तक पहुंच को प्रतिबंधित कर दिया है, जिससे X प्लेटफॉर्म पर इसका उपयोग केवल भुगतान करने वाले सब्सक्राइबर्स तक सीमित हो गया है। यह बदलाव टूल की महिलाओं और बच्चों सहित यौन और नग्न छवियों को उत्पन्न करने की क्षमता की व्यापक आलोचना के बाद आया है।

प्रतिबंध से पहले, Grok का इमेज-जनरेशन फीचर उपयोगकर्ताओं को छवियों को अपलोड करने और यौन या नग्न संस्करणों के निर्माण सहित संशोधनों का अनुरोध करने की अनुमति देता था। इसके कारण बच्चों, अभिनेताओं, मॉडलों और सार्वजनिक हस्तियों को दर्शाने वाली गैर-सहमति वाली छवियों की बाढ़ आ गई, जिससे अंतरराष्ट्रीय स्तर पर निंदा हुई। X और मस्क ने सार्वजनिक रूप से टूल के दुरुपयोग की निंदा की, और अवैध सामग्री के खिलाफ कंपनी की नीति को दोहराया। कंपनी ने कहा, "Grok का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो अवैध सामग्री अपलोड करने पर होते हैं।"

इमेज-जनरेशन फीचर, जो शुरू में दैनिक सीमा के साथ सभी उपयोगकर्ताओं के लिए उपलब्ध था, AI एल्गोरिदम का उपयोग करके अपलोड की गई छवियों में हेरफेर करने की अनुमति देता था। इस तकनीक ने जेनरेटिव एडवर्सैरियल नेटवर्क (GANs) का इस्तेमाल किया, जो एक प्रकार का मशीन लर्निंग मॉडल है, जो उपयोगकर्ता के संकेतों के आधार पर नई छवियां बनाता है। GANs में दो न्यूरल नेटवर्क होते हैं, एक जनरेटर और एक डिस्क्रिमिनेटर, जो एक साथ काम करते हैं। जनरेटर छवियां बनाता है, जबकि डिस्क्रिमिनेटर उनकी प्रामाणिकता का मूल्यांकन करता है। इस पुनरावृत्तीय प्रक्रिया के माध्यम से, जनरेटर तेजी से यथार्थवादी छवियों का उत्पादन करना सीखता है।

भुगतान करने वाले सब्सक्राइबर्स तक पहुंच को प्रतिबंधित करने का निर्णय AI उद्योग के भीतर इमेज जनरेशन तकनीक के दुरुपयोग की संभावना के बारे में बढ़ती चिंता को दर्शाता है। यह घटना नवाचार को नैतिक विचारों के साथ संतुलित करने की चुनौतियों और हानिकारक सामग्री के निर्माण और प्रसार को रोकने के लिए मजबूत सुरक्षा उपायों की आवश्यकता पर प्रकाश डालती है।

प्रकाशन के अनुसार, प्रतिबंध Grok ऐप पर लागू नहीं होते हैं, जहां इमेज जनरेशन बिना सब्सक्रिप्शन के सभी उपयोगकर्ताओं के लिए सुलभ रहा। X के उपयोगकर्ता आधार और व्यापक AI परिदृश्य पर इस निर्णय के दीर्घकालिक निहितार्थ अभी भी देखे जाने बाकी हैं। कंपनी ने अभी तक यह घोषणा नहीं की है कि Grok ऐप को कब, या यदि, प्रतिबंधित किया जाएगा।