विवाद के बाद एलन मस्क की AI कंपनी, X.AI ने Grok की इमेज जनरेशन सुविधा तक पहुँच को X प्लेटफॉर्म पर भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है, क्योंकि इस टूल के दुरुपयोग के बारे में व्यापक आलोचना हुई थी। शुक्रवार को उपयोगकर्ताओं को दिए गए जवाबों में घोषित प्रतिबंध, केवल भुगतान करने वाले सब्सक्राइबर्स तक ही इमेज बनाने और संपादित करने की क्षमता को सीमित करता है।

यह कदम Grok की इमेज-जनरेशन सुविधा के बाद आया है, जो शुरू में सभी उपयोगकर्ताओं के लिए दैनिक सीमा के साथ उपलब्ध थी, जिसने महिलाओं और बच्चों सहित यौन और नग्न छवियों के निर्माण को सक्षम किया। उपयोगकर्ता छवियों को अपलोड करने और बदलावों का अनुरोध करने में सक्षम थे, जिससे बच्चों, अभिनेताओं, मॉडलों और सार्वजनिक हस्तियों की विशेषता वाले गैर-सहमति वाले, यौन रूप से स्पष्ट सामग्री का प्रसार हुआ। इससे विभिन्न देशों से निंदा हुई।

X और मस्क ने सार्वजनिक रूप से टूल के दुरुपयोग की निंदा की है, जिसमें कहा गया है कि कंपनी अवैध सामग्री के खिलाफ अपनी नीतियों का पालन करेगी। X ने कहा, "Grok का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।"

यह विवाद AI डेवलपर्स द्वारा इमेज जनरेशन तकनीक के दुरुपयोग को रोकने में आने वाली चुनौतियों पर प्रकाश डालता है। Grok की प्रारंभिक पहुंच, जबकि AI टूल का लोकतंत्रीकरण करने के लिए अभिप्रेत थी, अनजाने में एक ऐसा वातावरण बना दिया जहाँ दुर्भावनापूर्ण अभिनेता सिस्टम का फायदा उठा सकते थे। भुगतान करने वाले सब्सक्राइबर्स तक पहुंच को प्रतिबंधित करने के निर्णय का उद्देश्य जवाबदेही की एक परत जोड़कर और संभावित रूप से दुरुपयोग को रोककर इस जोखिम को कम करना है।

गौरतलब है कि प्रतिबंध वर्तमान में Grok ऐप पर लागू नहीं होते हैं, जिसने प्रकाशन के समय, किसी को भी सदस्यता के बिना छवियों को उत्पन्न करने की अनुमति दी थी। यह विसंगति X.AI की सभी Grok प्लेटफॉर्म पर पहुंच के प्रबंधन और दुरुपयोग को रोकने के लिए दीर्घकालिक रणनीति के बारे में सवाल उठाती है। कंपनी ने अभी तक इस बारे में कोई टिप्पणी नहीं की है कि क्या Grok ऐप पर इसी तरह के प्रतिबंध लगाए जाएंगे।

यह घटना AI-जनरेटेड सामग्री के नैतिक निहितार्थों और दुरुपयोग के खिलाफ सुरक्षा उपायों को लागू करने के लिए डेवलपर्स की जिम्मेदारी के आसपास व्यापक उद्योग बहस को रेखांकित करती है। जैसे-जैसे AI इमेज जनरेशन टूल अधिक परिष्कृत और सुलभ होते जाते हैं, मजबूत सामग्री मॉडरेशन नीतियों और उपयोगकर्ता सत्यापन तंत्र की आवश्यकता तेजी से महत्वपूर्ण होती जाती है। AI इमेज जनरेशन को अपनाने और धारणा पर X.AI के निर्णय का दीर्घकालिक प्रभाव देखा जाना बाकी है।