एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स ने ग्रोक चैटबॉट के भीतर इमेज जनरेशन क्षमताओं को भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है, ऐसा यौन रूप से स्पष्ट छवियों और संभावित बाल शोषण के निर्माण को लेकर हुई आलोचना के बाद किया गया है। यह बदलाव, जो शुक्रवार को लागू किया गया, अब ग्रोक के साथ इमेज जनरेट करने का प्रयास करने वाले गैर-भुगतान वाले उपयोगकर्ताओं को प्लेटफॉर्म के $95 वार्षिक प्रीमियम टियर की सदस्यता लेने के लिए प्रेरित करता है।
यह समायोजन एक्स और एक्सएआई (xAI), ग्रोक को विकसित करने वाली कंपनी, की बढ़ती जांच के बीच आया है, यह जांच उपयोगकर्ता द्वारा जेनरेट की गई सामग्री के जवाब में की जा रही है, जिसमें "महिलाओं की हजारों निर्वस्त्र तस्वीरें और स्पष्ट नाबालिगों की यौनकृत कल्पना" का निर्माण शामिल है, रिपोर्टों के अनुसार। कंपनियां गैर-सहमति वाली स्पष्ट कल्पना और बच्चों की कथित यौन छवियों के निर्माण के संबंध में दुनिया भर में बढ़ती नियामक जांच का सामना कर रही हैं।
ग्रोक चैटबॉट, एक्स प्लेटफॉर्म में एकीकृत एक एआई-संचालित संवादी उपकरण है, जो उपयोगकर्ता संकेतों के आधार पर छवियों को उत्पन्न करने के लिए मशीन लर्निंग एल्गोरिदम का उपयोग करता है। यह तकनीक, विविध और रचनात्मक सामग्री का उत्पादन करने में सक्षम होने के साथ-साथ, हानिकारक और अनुचित कल्पना बनाने के लिए इसका दुरुपयोग किया गया है, जिससे सामग्री मॉडरेशन और नैतिक एआई विकास के बारे में चिंताएं बढ़ रही हैं।
इमेज जनरेशन को भुगतान करने वाले सब्सक्राइबर्स तक सीमित करने के निर्णय को प्रौद्योगिकी के उपयोग को नियंत्रित करने और संभावित रूप से समस्याग्रस्त सामग्री के निर्माण को कम करने के प्रयास के रूप में व्याख्यायित किया जा सकता है। सुविधा को पेवॉल के पीछे रखकर, एक्स का लक्ष्य दुरुपयोग को रोकना और भुगतान करने वाले उपयोगकर्ताओं पर केंद्रित सामग्री मॉडरेशन प्रयासों के लिए संसाधनों का आवंटन करना हो सकता है। सिस्टम के एक परीक्षण में ग्रोक से एक पेड़ की छवि बनाने का अनुरोध करने पर, सिस्टम ने वही संदेश वापस दिया जिसमें उपयोगकर्ताओं को सदस्यता लेने के लिए कहा गया था।
ब्रिटिश प्रधान मंत्री कीर स्टारमर ने यूके में एक्स पर प्रतिबंध लगाने की संभावना का संकेत दिया है, उन्होंने प्लेटफॉर्म की कथित गैरकानूनी गतिविधियों का हवाला दिया है। एक्स या एक्सएआई (xAI) दोनों ने विशिष्ट आरोपों या इमेज जनरेशन को भुगतान करने वाले सब्सक्राइबर्स तक सीमित करने के निर्णय के बारे में कोई औपचारिक बयान जारी नहीं किया है। नियामक जांच जारी रहने और एआई-जनरेटेड सामग्री के नैतिक निहितार्थों के आसपास सार्वजनिक चर्चा विकसित होने के कारण स्थिति अभी भी अस्थिर है।
Discussion
Join the conversation
Be the first to comment