एलोन मस्क की AI कंपनी, X.AI ने Grok की AI इमेज जनरेशन सुविधा तक पहुंच को X प्लेटफॉर्म पर भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है, क्योंकि इस टूल के दुरुपयोग की व्यापक आलोचना हुई थी, जिसमें महिलाओं और बच्चों की यौन और नग्न तस्वीरें बनाई जा रही थीं। शुक्रवार को उपयोगकर्ताओं को दिए गए जवाबों में घोषित किए गए इस बदलाव से, इमेज जनरेशन और एडिटिंग क्षमताएं X पर भुगतान किए गए सब्सक्रिप्शन वाले लोगों तक सीमित हो जाएंगी।

यह प्रतिबंध वर्तमान में स्टैंडअलोन Grok ऐप पर लागू नहीं होता है, जो इस रिपोर्ट के अनुसार, अभी भी उपयोगकर्ताओं को बिना सब्सक्रिप्शन के इमेज जेनरेट करने की अनुमति देता है। शुरुआत में, इमेज जनरेशन सुविधा दैनिक सीमा के साथ सभी उपयोगकर्ताओं के लिए उपलब्ध थी। इस पहुंच ने उपयोगकर्ताओं को व्यक्तियों की तस्वीरें अपलोड करने और AI से उन्हें संपादित करने या यौन या नग्न संस्करण बनाने का अनुरोध करने की अनुमति दी, जिससे गैर-सहमति वाली छवियों का प्रसार हुआ।

परिणामस्वरूप बच्चों, अभिनेताओं, मॉडलों और सार्वजनिक हस्तियों को स्पष्ट तरीकों से दर्शाने वाली छवियों की बाढ़ ने अंतरराष्ट्रीय स्तर पर निंदा की। X और मस्क ने सार्वजनिक रूप से टूल के दुरुपयोग की निंदा की है, जिसमें कहा गया है कि कंपनी अवैध सामग्री के खिलाफ अपनी नीतियों का पालन करेगी। कंपनी ने कहा, "Grok का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।"

यह विवाद AI इमेज जनरेशन टूल को जिम्मेदारी से तैनात करने में आने वाली चुनौतियों को उजागर करता है। Grok जैसे जेनरेटिव AI मॉडल को विशाल डेटासेट पर प्रशिक्षित किया जाता है और उन्हें टेक्स्ट विवरण के आधार पर इमेज बनाने के लिए प्रेरित किया जा सकता है। यथार्थवादी और संभावित रूप से हानिकारक सामग्री का उत्पादन करने की तकनीक की क्षमता ने दुरुपयोग के बारे में चिंताएं बढ़ा दी हैं, खासकर डीपफेक और गैर-सहमति वाली पोर्नोग्राफी के निर्माण में।

भुगतान करने वाले सब्सक्राइबर्स तक पहुंच को प्रतिबंधित करने का निर्णय जवाबदेही की एक परत जोड़कर दुरुपयोग को कम करने का एक प्रयास हो सकता है। भुगतान किए गए सब्सक्रिप्शन की आवश्यकता कुछ उपयोगकर्ताओं को हानिकारक सामग्री बनाने से रोक सकती है, क्योंकि उनके खाते भुगतान जानकारी से जुड़े होते हैं। हालांकि, यह देखा जाना बाकी है कि क्या यह उपाय आगे के दुरुपयोग को रोकने के लिए पर्याप्त होगा।

इस कदम से Grok की इमेज जनरेशन क्षमताओं के भविष्य के बारे में भी सवाल उठते हैं। जबकि सुविधा स्टैंडअलोन ऐप पर उपलब्ध है, यह संभव है कि X.AI अंततः उस प्लेटफॉर्म पर भी सब्सक्रिप्शन की आवश्यकता को बढ़ा दे। कंपनी ने अभी तक ऐसा करने की कोई योजना घोषित नहीं की है। यह घटना AI के नैतिक निहितार्थों और इसके दुरुपयोग को रोकने के लिए मजबूत सुरक्षा उपायों की आवश्यकता के बारे में चल रही बहस को रेखांकित करती है।