एलन मस्क की AI कंपनी, X. Corp ने Grok के AI इमेज-जेनरेशन फ़ीचर तक पहुँच को प्रतिबंधित कर दिया है, और X प्लेटफ़ॉर्म पर इसका उपयोग केवल भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है। यह बदलाव टूल की यौन और नग्न छवियों, जिनमें महिलाओं और बच्चों को दर्शाने वाली छवियां शामिल हैं, को उत्पन्न करने की क्षमता की व्यापक आलोचना के बाद किया गया है। उपयोगकर्ता पूछताछ के जवाब में शुक्रवार को Grok द्वारा दिए गए बयानों के अनुसार, अब केवल भुगतान करने वाले सब्सक्राइबर ही प्लेटफ़ॉर्म पर छवियों को उत्पन्न और संपादित कर पाएंगे।

हालांकि, ये प्रतिबंध वर्तमान में Grok ऐप तक नहीं फैले हैं, जो रिपोर्टिंग के समय भी उपयोगकर्ताओं को बिना भुगतान किए सदस्यता के छवियों को उत्पन्न करने की अनुमति देता था। इमेज-जेनरेशन फ़ीचर, जो शुरू में दैनिक सीमाओं के साथ सभी उपयोगकर्ताओं के लिए उपलब्ध था, संपादन के लिए छवियों को अपलोड करने या यौन या नग्न संस्करण बनाने में सक्षम बनाता था। इस क्षमता के कारण बच्चों, अभिनेताओं, मॉडलों और सार्वजनिक हस्तियों की गैर-सहमति वाली, यौन छवियों की बाढ़ आ गई, जिससे अंतरराष्ट्रीय स्तर पर निंदा हुई।

X और मस्क ने सार्वजनिक रूप से टूल के दुरुपयोग की निंदा की है, और सोशल मीडिया प्लेटफ़ॉर्म पर अवैध सामग्री पोस्ट करने के खिलाफ अपनी नीतियों को लागू करने की कंपनी की प्रतिबद्धता की पुष्टि की है। कंपनी ने कहा, "Grok का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो अवैध सामग्री अपलोड करने पर होते हैं।"

यह विवाद AI इमेज जनरेशन तकनीक को जिम्मेदारी से तैनात करने में निहित चुनौतियों को उजागर करता है। छवियों में हेरफेर करने और उत्पन्न करने की क्षमता महत्वपूर्ण नैतिक चिंताएं पैदा करती है, विशेष रूप से सहमति, गोपनीयता और दुरुपयोग की संभावना के संबंध में। यह घटना हानिकारक या अवैध सामग्री के निर्माण और प्रसार को रोकने के लिए मजबूत सामग्री मॉडरेशन नीतियों और प्रवर्तन तंत्र के महत्व को भी रेखांकित करती है।

Grok के इमेज जनरेशन को भुगतान करने वाले सब्सक्राइबर्स तक सीमित करने का निर्णय तकनीक के प्रबंधन के लिए X के दृष्टिकोण में बदलाव का प्रतिनिधित्व करता है। जबकि यह कदम टूल से जुड़े कुछ जोखिमों को कम कर सकता है, यह पहुंच और दो-स्तरीय प्रणाली की संभावना के बारे में भी सवाल उठाता है जहां भुगतान करने वाले उपयोगकर्ताओं को संभावित रूप से समस्याग्रस्त AI क्षमताओं तक अधिक पहुंच प्राप्त है। AI इमेज जनरेशन तकनीक के विकास और तैनाती के लिए इस निर्णय के दीर्घकालिक निहितार्थ अभी भी देखे जाने बाकी हैं। कंपनी ने अभी तक यह घोषणा नहीं की है कि Grok ऐप भी समान प्रतिबंधों के अधीन होगा या नहीं।