एलोन मस्क की AI कंपनी, X.AI ने Grok की इमेज जनरेशन सुविधा तक पहुंच को X प्लेटफॉर्म पर भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है, क्योंकि उपयोगकर्ताओं को महिलाओं और बच्चों की यौन और नग्न छवियां बनाने की अनुमति देने के लिए व्यापक आलोचना हुई थी। शुक्रवार को उपयोगकर्ताओं को दिए गए जवाबों में घोषित परिवर्तन, इमेज जनरेशन और संपादन क्षमताओं को केवल भुगतान करने वाले सब्सक्राइबर्स तक सीमित करता है। हालांकि, प्रकाशन के समय, ये प्रतिबंध Grok ऐप तक नहीं पहुंचे, जिसने सभी उपयोगकर्ताओं को बिना सदस्यता के इमेज उत्पन्न करने की अनुमति देना जारी रखा।

इमेज-जनरेशन सुविधा, जो शुरू में दैनिक सीमाओं के साथ सभी उपयोगकर्ताओं के लिए उपलब्ध थी, संपादन के लिए इमेज अपलोड करने या यौन या नग्न संस्करण बनाने में सक्षम थी। इस क्षमता के कारण बच्चों, अभिनेताओं, मॉडलों और सार्वजनिक हस्तियों की गैर-सहमति वाली यौन छवियों की बाढ़ आ गई, जिससे अंतरराष्ट्रीय आक्रोश फैल गया। X और मस्क ने सार्वजनिक रूप से उपकरण के दुरुपयोग की निंदा की, जिसमें कहा गया कि कंपनी सोशल मीडिया प्लेटफॉर्म पर अवैध सामग्री के खिलाफ अपनी नीतियों का पालन करेगी। कंपनी ने कहा, "Grok का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।"

यह विवाद AI डेवलपर्स को इमेज जनरेशन तकनीक के दुरुपयोग को रोकने में आने वाली चुनौतियों को उजागर करता है। Grok के प्रारंभिक कार्यान्वयन में हानिकारक और शोषणकारी सामग्री के निर्माण को रोकने के लिए पर्याप्त सुरक्षा उपायों का अभाव था। यह घटना AI-संचालित उपकरणों के विकास और तैनाती में मजबूत सामग्री मॉडरेशन और नैतिक दिशानिर्देशों की आवश्यकता को रेखांकित करती है। भुगतान करने वाले सब्सक्राइबर्स तक पहुंच को प्रतिबंधित करने का कंपनी का निर्णय उपयोगकर्ता आधार को सीमित करके और संभावित रूप से जवाबदेही बढ़ाकर समस्या को कम करने के प्रयास का सुझाव देता है।

Grok की इमेज जनरेशन सुविधा को भुगतान करने वाले सब्सक्राइबर्स तक सीमित करने का कदम AI प्लेटफॉर्म के बीच सामग्री निर्माण पर सख्त नियंत्रण लागू करने की बढ़ती प्रवृत्ति को दर्शाता है। अन्य AI इमेज जनरेटर, जैसे DALL-E 2 और Midjourney, को भी इसी तरह की चुनौतियों का सामना करना पड़ा है और उन्होंने हानिकारक या अनुचित सामग्री के निर्माण को रोकने के लिए विभिन्न उपाय लागू किए हैं, जिसमें सामग्री फ़िल्टर और उपयोग दिशानिर्देश शामिल हैं।

Grok के अपनाने और उपयोग पर इस निर्णय का दीर्घकालिक प्रभाव अभी देखा जाना बाकी है। जबकि पहुंच को प्रतिबंधित करने से दुरुपयोग की संभावना कम हो सकती है, यह व्यापक दर्शकों के लिए उपकरण की अपील को भी सीमित कर सकता है। कंपनी ने अभी तक Grok ऐप के लिए अतिरिक्त सुरक्षा उपायों या सामग्री मॉडरेशन उपायों को लागू करने की कोई योजना नहीं बनाई है, जो बिना किसी प्रतिबंध के इमेज जनरेशन की अनुमति देना जारी रखता है। X.AI द्वारा AI इमेज जनरेशन की जटिल नैतिक और तकनीकी चुनौतियों का सामना करने के कारण स्थिति अभी भी तरल है।