एक्स (X), जिसे पहले ट्विटर के नाम से जाना जाता था, ने अपने ग्रोक (Grok) चैटबॉट के भीतर इमेज जनरेशन क्षमताओं को भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है, यह कदम टूल की यौन रूप से स्पष्ट चित्र, जिनमें स्पष्ट रूप से नाबालिगों को दर्शाने वाले चित्र शामिल हैं, बनाने की क्षमता पर आलोचना के बाद उठाया गया है। शुक्रवार को लागू किए गए इस बदलाव के बाद, ग्रोक के साथ चित्र बनाने का प्रयास करने वाले गैर-भुगतान वाले उपयोगकर्ताओं को अब प्लेटफ़ॉर्म के $95 वार्षिक प्रीमियम टियर की सदस्यता लेने के लिए कहा जा रहा है, यह जानकारी कई उपयोगकर्ताओं द्वारा किए गए परीक्षणों के अनुसार है।

यह सीमा एलोन मस्क के एक्स (X) और एक्सएआई (xAI), ग्रोक को विकसित करने वाली कंपनी, की बढ़ती जांच के बीच आई है। कथित तौर पर दुनिया भर के नियामक गैर-सहमतिपूर्ण स्पष्ट इमेजरी और बच्चों की कथित यौन छवियों के निर्माण के संबंध में प्लेटफ़ॉर्म की जांच कर रहे हैं। ब्रिटिश प्रधान मंत्री कीर स्टारमर ने गैरकानूनी गतिविधियों का हवाला देते हुए यूके में एक्स (X) पर संभावित प्रतिबंध का सुझाव दिया है।

ग्रोक चैटबॉट टेक्स्ट प्रॉम्प्ट से चित्र बनाने के लिए उन्नत आर्टिफिशियल इंटेलिजेंस मॉडल का उपयोग करता है। इस तकनीक ने, रचनात्मक क्षमता प्रदान करते हुए, इसके संभावित दुरुपयोग के बारे में चिंताएं बढ़ा दी हैं। यथार्थवादी चित्र, विशेष रूप से यौन प्रकृति के चित्र बनाने की क्षमता ने नैतिक विचारों और सुरक्षा उपायों की आवश्यकता के बारे में बहस को जन्म दिया है।

एक्स (X) का इमेज जनरेशन को भुगतान करने वाले सब्सक्राइबर्स तक सीमित करने का निर्णय दुरुपयोग के जोखिम को कम करने और जिम्मेदार एआई विकास के प्रति प्रतिबद्धता प्रदर्शित करने के प्रयास के रूप में व्याख्या किया जा सकता है। हालांकि, आलोचकों का तर्क है कि यह दृष्टिकोण प्रभावी रूप से सुरक्षा पर एक मूल्य लगाता है, संभावित रूप से कमजोर उपयोगकर्ताओं के लिए सुरक्षा उपायों तक पहुंच को सीमित करता है।

एक्स (X) और एक्सएआई (xAI) दोनों ने बदलाव या इसके पीछे के विशिष्ट कारणों के बारे में कोई आधिकारिक बयान जारी नहीं किया है। ग्रोक के उपयोगकर्ता आधार और एआई नैतिकता के आसपास व्यापक बहस पर इस निर्णय का दीर्घकालिक प्रभाव अभी देखा जाना बाकी है। नियामकों द्वारा जांच जारी है, और कुछ क्षेत्रों में एक्स (X) का भविष्य अनिश्चित है।