X, जिसे पहले ट्विटर के नाम से जाना जाता था, ने Grok की इमेज-एडिटिंग सुविधाओं के लिए एक सीमित पेवॉल लागू किया, लेकिन मुफ़्त उपयोगकर्ता अभी भी वैकल्पिक तरीकों से टूल का उपयोग कर सकते हैं, जिससे इस उपाय की प्रभावशीलता पर सवाल उठते हैं। यह बदलाव उन रिपोर्टों के बाद आया है जिनमें कहा गया था कि उपयोगकर्ता Grok का उपयोग बड़ी संख्या में गैर-सहमति वाले यौन चित्र बनाने के लिए कर रहे थे, जिसके बाद X ने घोषणा की कि इमेज जनरेशन और एडिटिंग केवल भुगतान करने वाले ग्राहकों तक ही सीमित रहेगी।

कुछ उपयोगकर्ताओं को दिखाए गए संदेशों के अनुसार, "इमेज जनरेशन और एडिटिंग वर्तमान में केवल भुगतान करने वाले ग्राहकों तक ही सीमित है," और सदस्यता लेने के लिए एक लिंक दिया गया है। हालाँकि, The Verge द्वारा बताए गए और Ars Technica द्वारा सत्यापित किए गए अनुसार, बिना सदस्यता वाले उपयोगकर्ता अभी भी Grok का उपयोग करके इमेज एडिट कर सकते हैं।

यह प्रतिबंध मुख्य रूप से उन उपयोगकर्ताओं को प्रभावित करता है जो सीधे Grok को उत्तर देकर इमेज एडिट करने का प्रयास कर रहे हैं। जबकि यह तरीका अब ग्राहकों तक ही सीमित है, मुफ़्त उपयोगकर्ता अभी भी डेस्कटॉप साइट के माध्यम से या X ऐप के भीतर इमेज पर देर तक दबाकर इमेज-एडिटिंग सुविधाओं का उपयोग कर सकते हैं। यह उन्हें सार्वजनिक रूप से Grok को प्रेरित किए बिना इमेज एडिट करने की अनुमति देता है, जिससे आउटपुट सार्वजनिक फ़ीड से बाहर रहते हैं।

यह स्थिति AI-संचालित प्लेटफ़ॉर्म में कंटेंट मॉडरेशन की चुनौतियों को उजागर करती है। Grok, अन्य बड़े भाषा मॉडल (LLM) की तरह, विशाल डेटासेट से सीखता है, जिसमें अनजाने में पूर्वाग्रह और हानिकारक कंटेंट शामिल हो सकते हैं। जब उपयोगकर्ता इन मॉडलों को इमेज जेनरेट करने या हेरफेर करने के लिए प्रेरित करते हैं, तो परिणामों का दुरुपयोग डीपफेक बनाने, गलत सूचना फैलाने या अपमानजनक कंटेंट जेनरेट करने के लिए किया जा सकता है।

यह घटना AI चैटबॉट की आधिकारिक कंपनी के प्रवक्ता के रूप में भूमिका पर भी सवाल उठाती है। पेवॉल की शुरुआती रिपोर्ट Grok के अपने बयानों पर आधारित थीं, जो बाद में गलत पाई गईं। यह AI स्रोतों से जानकारी को सत्यापित करने और उन्हें निश्चित प्राधिकारी के रूप में नहीं मानने के महत्व को रेखांकित करता है।

X द्वारा लागू किया गया आंशिक पेवॉल Grok की इमेज-एडिटिंग क्षमताओं के दुरुपयोग को संबोधित करने का एक प्रयास है। हालाँकि, तथ्य यह है कि मुफ़्त उपयोगकर्ता अभी भी वैकल्पिक तरीकों से टूल का उपयोग कर सकते हैं, यह सुझाव देता है कि यह उपाय पूरी तरह से प्रभावी नहीं है। यह देखा जाना बाकी है कि X आगे प्रतिबंध लगाएगा या हानिकारक इमेज के जनरेशन को रोकने के लिए अधिक मजबूत कंटेंट मॉडरेशन तकनीक विकसित करेगा। कंपनी ने अभी तक इस मामले पर कोई आधिकारिक बयान जारी नहीं किया है।