एलोन मस्क की AI कंपनी, X. Corp ने Grok के AI इमेज-जनरेशन फ़ीचर तक पहुँच को X प्लेटफ़ॉर्म पर भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है, यह कदम टूल के दुरुपयोग को लेकर व्यापक आलोचना के बाद उठाया गया है। शुक्रवार को उपयोगकर्ताओं को दिए गए जवाबों में घोषित प्रतिबंध, इमेज जनरेशन और एडिटिंग क्षमताओं को केवल भुगतान करने वाले सब्सक्राइबर्स तक सीमित करता है, यह कदम यौन और नग्न छवियों, जिनमें महिलाओं और बच्चों को दर्शाने वाली छवियां भी शामिल हैं, के निर्माण को लेकर चिंताओं के कारण उठाया गया है।

Grok के इमेज-जनरेशन फ़ीचर के शुरुआती रोलआउट ने उपयोगकर्ताओं को, यहां तक कि बिना सब्सक्रिप्शन वाले लोगों को भी, छवियों को अपलोड करने और यौन या नग्न संस्करणों के निर्माण सहित संशोधनों का अनुरोध करने की अनुमति दी। इस क्षमता के कारण बच्चों, अभिनेताओं, मॉडलों और सार्वजनिक हस्तियों की गैर-सहमति वाली छवियों की बाढ़ आ गई, जिससे अंतरराष्ट्रीय स्तर पर निंदा हुई। X पर प्रतिबंधों के बावजूद, प्रकाशन के समय Grok ऐप, सभी उपयोगकर्ताओं को बिना भुगतान किए सब्सक्रिप्शन की आवश्यकता के छवियों को उत्पन्न करने की अनुमति देता रहा।

X और एलोन मस्क ने सार्वजनिक रूप से टूल के दुरुपयोग की निंदा की है, यह दावा करते हुए कि कंपनी अवैध सामग्री के खिलाफ अपनी नीतियों को लागू करेगी। कंपनी ने कहा, "Grok का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो अवैध सामग्री अपलोड करने पर होते हैं," और सामग्री मॉडरेशन नीतियों के प्रति अपनी प्रतिबद्धता दोहराई।

भुगतान करने वाले सब्सक्राइबर्स तक पहुंच को प्रतिबंधित करने का निर्णय AI उद्योग के भीतर जेनरेटिव AI तकनीकों के दुरुपयोग की संभावना के बारे में बढ़ती चिंता को दर्शाता है। विशेषज्ञों ने AI इमेज जनरेशन के नैतिक निहितार्थों के बारे में चेतावनी दी है, विशेष रूप से डीपफेक और गैर-सहमति वाली स्पष्ट सामग्री बनाने के जोखिम के बारे में। यह घटना उन चुनौतियों को उजागर करती है जिनका सामना कंपनियां नवाचार को जिम्मेदार AI विकास और तैनाती के साथ संतुलित करने में करती हैं।

Grok के इमेज जनरेशन फ़ीचर तक पहुंच को सीमित करने के X के कदम से उपयोगकर्ता आधार पर प्रभाव पड़ने और टूल के विकास के फोकस को संभावित रूप से बदलने की उम्मीद है। यह देखा जाना बाकी है कि क्या कंपनी दुरुपयोग को रोकने के लिए सख्त सुरक्षा उपाय लागू करेगी, यहां तक कि भुगतान करने वाले सब्सक्राइबर्स के बीच भी। Grok की इमेज जनरेशन क्षमताओं का भविष्य और स्टैंडअलोन ऐप पर इसकी उपलब्धता अनिश्चित बनी हुई है क्योंकि कंपनी AI-जनरेटेड सामग्री की नैतिक और कानूनी जटिलताओं से निपटती है।