एलन मस्क की AI कंपनी, X. Corp ने X प्लेटफॉर्म पर Grok की AI इमेज जनरेशन सुविधा तक पहुंच को केवल भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है, क्योंकि उपयोगकर्ताओं को महिलाओं और बच्चों सहित यौन और नग्न चित्र बनाने की अनुमति देने के लिए व्यापक आलोचना हुई थी। X पर उपयोगकर्ताओं को दिए गए जवाबों में शुक्रवार को घोषित किए गए इस बदलाव से इमेज जनरेशन और एडिटिंग क्षमताएं केवल भुगतान करने वाले सब्सक्राइबर्स तक सीमित हो जाएंगी। हालाँकि, ये प्रतिबंध Grok ऐप पर लागू नहीं होते हैं, जो घोषणा के समय भी सभी उपयोगकर्ताओं को बिना सब्सक्रिप्शन के इमेज जेनरेट करने की अनुमति देता रहा।

शुरुआत में, Grok की इमेज जनरेशन सुविधा, जिसमें दैनिक उपयोग की सीमाएँ थीं, उपयोगकर्ताओं को इमेज अपलोड करने और यौन या नग्न संस्करणों के निर्माण सहित संपादन का अनुरोध करने की अनुमति देती थी। इस कार्यक्षमता के कारण बच्चों, अभिनेताओं, मॉडलों और सार्वजनिक हस्तियों की गैर-सहमति वाली यौन छवियों की बाढ़ आ गई, जिससे अंतरराष्ट्रीय स्तर पर निंदा हुई।

X और मस्क ने सार्वजनिक रूप से उपकरण के दुरुपयोग की निंदा की, यह कहते हुए कि कंपनी सोशल मीडिया प्लेटफॉर्म पर अवैध सामग्री पोस्ट करने के खिलाफ अपनी नीतियों का पालन करेगी। X ने कहा, "Grok का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।"

भुगतान करने वाले सब्सक्राइबर्स तक पहुंच को प्रतिबंधित करने का निर्णय AI इमेज जनरेशन टूल के दुरुपयोग को कम करने और X की सामग्री नीतियों के साथ संरेखित करने के प्रयास को दर्शाता है। यह कदम AI डेवलपर्स द्वारा हानिकारक या अवैध सामग्री के निर्माण को रोकने में आने वाली चुनौतियों को भी उजागर करता है। यह घटना AI इमेज जनरेशन तकनीक के दुरुपयोग की संभावना और मजबूत सुरक्षा उपायों और सामग्री मॉडरेशन नीतियों के महत्व को रेखांकित करती है। कंपनी ने अभी तक यह जानकारी जारी नहीं की है कि वह इन नए प्रतिबंधों की निगरानी और प्रवर्तन कैसे करेगी। यह देखा जाना बाकी है कि क्या यह प्रतिबंध अनुचित सामग्री के निर्माण को प्रभावी ढंग से रोकेगा और इस मुद्दे को हल करने के लिए X और क्या उपाय करेगा।