एलोन मस्क की एआई कंपनी, एक्स.एआई (X.AI) ने ग्रोके (Grok) की इमेज जनरेशन (image generation) सुविधा तक पहुंच को एक्स (X) प्लेटफॉर्म पर भुगतान करने वाले सब्सक्राइबर्स (paying subscribers) तक सीमित कर दिया है, यह कदम इस टूल (tool) के दुरुपयोग के संबंध में व्यापक आलोचना के बाद उठाया गया है। शुक्रवार को उपयोगकर्ताओं को दिए गए जवाबों में घोषित की गई इस पाबंदी के तहत, इमेज जनरेशन और एडिटिंग (editing) की क्षमताएं केवल भुगतान करने वाले सब्सक्राइबर्स तक ही सीमित रहेंगी।
यह कदम एआई (AI) इमेज-जनरेशन सुविधा के बाद आया है, जो शुरू में दैनिक सीमा के साथ सभी उपयोगकर्ताओं के लिए उपलब्ध थी, लेकिन इसका इस्तेमाल महिलाओं, बच्चों, अभिनेताओं, मॉडलों और सार्वजनिक हस्तियों की गैर-सहमति वाली यौन छवियों को बनाने के लिए किया गया, जिससे अंतरराष्ट्रीय स्तर पर आक्रोश फैल गया। उपयोगकर्ता व्यक्तियों की तस्वीरें अपलोड करने और एआई (AI) को यौन या नग्न संस्करण बनाने के लिए प्रेरित करने में सक्षम थे।
एक्स (X) और मस्क ने सार्वजनिक रूप से टूल (tool) के दुरुपयोग की निंदा की है, और अवैध सामग्री के खिलाफ अपनी नीतियों को लागू करने की कंपनी की प्रतिबद्धता को दोहराया है। एक्स (X) ने कहा, "ग्रोके (Grok) का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो अवैध सामग्री अपलोड करने पर होते हैं।"
यह पाबंदी फिलहाल ग्रोके (Grok) ऐप पर लागू नहीं होती है, जो प्रकाशन के समय, सभी उपयोगकर्ताओं को बिना भुगतान वाले सब्सक्रिप्शन (subscription) के इमेज (image) जेनरेट (generate) करने की अनुमति देता था। यह विसंगति विभिन्न प्लेटफॉर्मों पर कंटेंट मॉडरेशन (content moderation) के प्रबंधन के लिए एक्स.एआई (X.AI) की रणनीति के बारे में सवाल उठाती है।
यह घटना एआई (AI) इमेज जनरेशन (image generation) टूल (tool) को जिम्मेदारी से तैनात करने की चुनौतियों पर प्रकाश डालती है। जबकि ये टूल (tool) रचनात्मक क्षमता प्रदान करते हैं, वे दुरुपयोग के जोखिम भी पेश करते हैं, जिसमें डीपफेक (deepfake), गैर-सहमति वाली पोर्नोग्राफी (pornography) और अन्य प्रकार की हानिकारक सामग्री का निर्माण शामिल है। यह घटना एआई (AI) द्वारा जेनरेट (generate) की गई सामग्री की निगरानी में सोशल मीडिया प्लेटफॉर्म की भूमिका और वर्तमान कंटेंट मॉडरेशन (content moderation) नीतियों की प्रभावशीलता के बारे में भी सवाल उठाती है।
भुगतान करने वाले सब्सक्राइबर्स (paying subscribers) तक पहुंच को प्रतिबंधित करने के निर्णय को एक्स.एआई (X.AI) द्वारा टूल (tool) के उपयोग पर अधिक नियंत्रण रखने और संभावित रूप से दुरुपयोग के जोखिम को कम करने के तरीके के रूप में देखा जा सकता है। एक छोटे, भुगतान करने वाले उपयोगकर्ता आधार तक पहुंच को सीमित करके, कंपनी जेनरेट (generate) की गई सामग्री की अधिक प्रभावी ढंग से निगरानी और मॉडरेट (moderate) करने में सक्षम हो सकती है। हालांकि, यह पहुंच के बारे में चिंताएं भी पैदा करता है और क्या इस तरह के प्रतिबंध कुछ उपयोगकर्ता समूहों को असमान रूप से प्रभावित करेंगे।
एआई (AI) इमेज जनरेशन (image generation) टूल (tool) को अपनाने और विकसित करने पर इस निर्णय का दीर्घकालिक प्रभाव अभी देखा जाना बाकी है। यह घटना समान तकनीकों को विकसित करने वाली अन्य कंपनियों के लिए एक चेतावनी के रूप में काम करती है, जो एआई (AI) संचालित टूल (tool) के डिजाइन और तैनाती में मजबूत सुरक्षा उपायों और नैतिक विचारों की आवश्यकता पर जोर देती है। एक्स.एआई (X.AI) ने अभी तक ग्रोके (Grok) की इमेज जनरेशन (image generation) सुविधा के दुरुपयोग से उठाए गए मुद्दों को संबोधित करने के लिए आगे की योजनाओं की घोषणा नहीं की है।
Discussion
Join the conversation
Be the first to comment