विवाद के बाद एलन मस्क की AI कंपनी, X.AI ने Grok की इमेज जनरेशन सुविधा तक पहुँच को X प्लेटफॉर्म पर भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है, क्योंकि इस टूल के दुरुपयोग के बारे में व्यापक आलोचना हुई थी। शुक्रवार को उपयोगकर्ताओं को दिए गए जवाबों में घोषित प्रतिबंध, X पर भुगतान किए गए सब्सक्रिप्शन वाले लोगों के लिए छवियों को उत्पन्न और संपादित करने की क्षमता को सीमित करता है। हालाँकि, प्रकाशन के समय, Grok ऐप इमेज जनरेशन के लिए सब्सक्रिप्शन स्थिति की परवाह किए बिना, सभी उपयोगकर्ताओं के लिए सुलभ रहा।

विवाद Grok की इमेज-जनरेशन क्षमताओं की प्रारंभिक पहुंच से उपजा है, जिसने उपयोगकर्ताओं को छवियों को अपलोड करने और यौन या नग्न संस्करणों के निर्माण सहित संशोधनों का अनुरोध करने की अनुमति दी। इससे बच्चों, अभिनेताओं, मॉडलों और सार्वजनिक हस्तियों को दर्शाने वाली गैर-सहमति वाली, यौन रूप से स्पष्ट छवियों की बाढ़ आ गई, जिससे अंतरराष्ट्रीय आक्रोश फैल गया।

X और एलन मस्क ने सार्वजनिक रूप से टूल के दुरुपयोग की निंदा की, यह कहते हुए कि कंपनी अवैध सामग्री के खिलाफ अपनी नीतियों का पालन करेगी। कंपनी ने कहा, "Grok का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।" यह उपयोगकर्ता-जनित सामग्री के संबंध में X की मौजूदा नीतियों को दर्शाता है और इसका उद्देश्य उन नियमों को AI-जनित सामग्री तक विस्तारित करना है।

भुगतान करने वाले सब्सक्राइबर्स तक पहुंच को प्रतिबंधित करने का निर्णय X.AI की रणनीति में बदलाव का प्रतिनिधित्व करता है, जिसका उद्देश्य संभावित रूप से दुरुपयोग के जोखिम को कम करना और सामग्री मॉडरेशन में सुधार करना है। पहुंच को सीमित करके, कंपनी उत्पन्न छवियों की मात्रा को कम करने और छोटे उपयोगकर्ता आधार पर मॉडरेशन प्रयासों पर ध्यान केंद्रित करने की उम्मीद कर सकती है। यह कदम AI-जनित सामग्री के व्यापक निहितार्थों और ऐसे टूल की मेजबानी करने वाले प्लेटफार्मों की जिम्मेदारियों के बारे में भी सवाल उठाता है।

यह घटना AI इमेज जनरेशन तकनीक को जिम्मेदारी से तैनात करने की चुनौतियों पर प्रकाश डालती है। रचनात्मक क्षमता की पेशकश करते हुए, इन उपकरणों का उपयोग हानिकारक और अवैध सामग्री बनाने के लिए किया जा सकता है। उद्योग को मजबूत सुरक्षा उपायों की आवश्यकता से जूझना पड़ रहा है, जिसमें सामग्री फ़िल्टर, उपयोग प्रतिबंध और दुरुपयोग के खिलाफ स्पष्ट नीतियां शामिल हैं। Grok ऐप की वर्तमान स्थिति, जो अभी भी अप्रतिबंधित इमेज जनरेशन की अनुमति देता है, सुझाव देता है कि X.AI अभी भी सभी प्लेटफार्मों पर एक व्यापक समाधान लागू करने के लिए काम कर रहा है। भविष्य के विकास में संभवतः सामग्री मॉडरेशन तकनीकों को परिष्कृत करना और सदस्यता स्थिति की परवाह किए बिना, हानिकारक छवियों के निर्माण को रोकने के तरीकों की खोज करना शामिल होगा।