एलोन मस्क की AI कंपनी, X.AI ने Grok की इमेज जनरेशन सुविधा तक पहुँच को X प्लेटफॉर्म पर भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है, यह कदम टूल के दुरुपयोग के बारे में व्यापक आलोचना के बाद उठाया गया है। यह प्रतिबंध, X पर उपयोगकर्ताओं को दिए गए जवाबों में शुक्रवार को घोषित किया गया, इमेज बनाने और संपादित करने की क्षमता को केवल भुगतान करने वाले सब्सक्राइबर्स तक सीमित करता है। हालाँकि, प्रकाशन के समय, ये प्रतिबंध Grok ऐप पर लागू नहीं थे, जहाँ उपयोगकर्ता बिना सब्सक्रिप्शन के भी इमेज बना सकते थे।

इमेज-जनरेशन सुविधा, जो शुरू में दैनिक सीमा के साथ सभी उपयोगकर्ताओं के लिए उपलब्ध थी, व्यक्तियों को इमेज अपलोड करने और संशोधन का अनुरोध करने की अनुमति देती थी, जिसमें यौन या नग्न संस्करण बनाना भी शामिल था। इस क्षमता के कारण बच्चों, अभिनेताओं, मॉडलों और सार्वजनिक हस्तियों को दर्शाने वाली गैर-सहमति वाली यौन छवियों का प्रसार हुआ, जिससे अंतर्राष्ट्रीय आक्रोश फैल गया।

X और मस्क ने सार्वजनिक रूप से टूल के दुरुपयोग की निंदा की है, यह कहते हुए कि कंपनी अवैध सामग्री के खिलाफ अपनी नीतियों को बरकरार रखेगी। कंपनी ने कहा, "Grok का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो अवैध सामग्री अपलोड करने पर होते हैं।"

यह विवाद AI इमेज जनरेशन तकनीक को जिम्मेदारी से लागू करने की चुनौतियों को उजागर करता है। Grok की इमेज जनरेशन सुविधा की प्रारंभिक पहुंच, जिसका उद्देश्य AI टूल तक पहुंच को लोकतांत्रिक बनाना था, अनजाने में दुरुपयोग के लिए एक उपयुक्त वातावरण बना दिया। इमेज में हेरफेर करने और डीपफेक बनाने की क्षमता सहमति, गोपनीयता और दुर्भावनापूर्ण उपयोग की संभावना के बारे में गंभीर नैतिक चिंताएं पैदा करती है।

भुगतान करने वाले सब्सक्राइबर्स तक पहुंच को प्रतिबंधित करने का निर्णय अधिक नियंत्रण और जवाबदेही की ओर एक बदलाव का प्रतिनिधित्व करता है। उपयोगकर्ता आधार को सीमित करके, X.AI का लक्ष्य दुरुपयोग के जोखिम को कम करना और संभावित रूप से सख्त निगरानी और मॉडरेशन नीतियों को लागू करना है। हालाँकि, Grok ऐप पर सुविधा की निरंतर उपलब्धता इन उपायों की स्थिरता और प्रभावशीलता के बारे में सवाल उठाती है।

यह घटना AI इमेज जनरेशन तकनीकों के विकास और तैनाती में मजबूत सुरक्षा उपायों और नैतिक दिशानिर्देशों की आवश्यकता को रेखांकित करती है। जैसे-जैसे ये उपकरण अधिक परिष्कृत और सुलभ होते जाते हैं, डेवलपर्स और प्लेटफॉर्म को उपयोगकर्ता सुरक्षा को प्राथमिकता देनी चाहिए और हानिकारक सामग्री के निर्माण और प्रसार को रोकना चाहिए। उद्योग यह देखने के लिए उत्सुक होगा कि क्या यह कदम तकनीक के दुरुपयोग को रोकने के लिए पर्याप्त है और क्या अन्य प्लेटफ़ॉर्म भी इसी तरह के प्रतिबंधों का पालन करेंगे।