महिलाओं की "कपड़े उतारने" वाली छवियां और स्पष्ट रूप से नाबालिगों की यौन छवियों को उत्पन्न करने की क्षमता के लिए अपनी ग्रोोक चैटबॉट की जांच का सामना करने के बाद, एलोन मस्क के X ने छवि निर्माण और संपादन को भुगतान करने वाले ग्राहकों तक सीमित कर दिया है। शुक्रवार को लागू किए गए इस बदलाव में, X के प्रीमियम सदस्यता स्तर के उपयोगकर्ताओं तक सुविधा को सीमित कर दिया गया है, जिसकी वार्षिक लागत $95 है।

X पर ग्रोोक खाता अब कुछ उपयोगकर्ता अनुरोधों का जवाब एक संदेश के साथ देता है जिसमें कहा गया है कि छवि निर्माण और संपादन भुगतान करने वाले ग्राहकों तक सीमित हैं, जिसमें सदस्यता पृष्ठ का लिंक भी शामिल है। यह प्रतिबंध कम से कम एक उदाहरण में तब भी शुरू हो गया जब एक उपयोगकर्ता ने एक पेड़ की छवि का अनुरोध किया, जो सुविधा पर एक व्यापक सीमा का संकेत देता है।

यह कदम मस्क के X और ग्रोोक के पीछे की कंपनी xAI के बढ़ते आक्रोश और बढ़ती नियामक जांच के बाद उठाया गया है। दुनिया भर के नियामक गैर-सहमतिपूर्ण स्पष्ट इमेजरी और बच्चों की कथित यौन छवियों के निर्माण के लिए कंपनियों की जांच कर रहे हैं। ब्रिटिश प्रधान मंत्री कीर स्टारमर ने यूके में X पर प्रतिबंध लगाने का सुझाव दिया है, जिसमें कहा गया है कि कार्रवाई गैरकानूनी रही है।

X और xAI दोनों ने बदलाव के बारे में कोई औपचारिक बयान जारी नहीं किया है। ग्रोोक चैटबॉट टेक्स्ट प्रॉम्प्ट से छवियां उत्पन्न करने के लिए उन्नत कृत्रिम बुद्धिमत्ता और मशीन लर्निंग एल्गोरिदम का उपयोग करता है। अंतर्निहित तकनीक, शक्तिशाली होने के साथ-साथ, यदि ठीक से नियंत्रित और निगरानी नहीं की जाती है तो दुरुपयोग के लिए अतिसंवेदनशील है। विशेषज्ञों ने नोट किया है कि जेनरेटिव एआई मॉडल को हानिकारक या अनुचित सामग्री का उत्पादन करने के लिए हेरफेर किया जा सकता है, जो मजबूत सुरक्षा उपायों और सामग्री मॉडरेशन नीतियों की आवश्यकता पर प्रकाश डालता है।

छवि निर्माण को भुगतान करने वाले ग्राहकों तक सीमित करने के निर्णय से पहुंच और सामग्री मॉडरेशन के बारे में सवाल उठते हैं। जबकि यह समस्याग्रस्त छवियों की समग्र मात्रा को कम कर सकता है, यह सामग्री निर्माण के चारों ओर एक पेवॉल भी बनाता है, संभावित रूप से उन उपयोगकर्ताओं के लिए पहुंच को सीमित करता है जो सदस्यता का खर्च नहीं उठा सकते हैं। यह देखा जाना बाकी है कि क्या यह उपाय नियामकों और जनता द्वारा उठाई गई चिंताओं को प्रभावी ढंग से संबोधित करेगा। स्थिति जारी है, और नियामक जांच जारी रहने के कारण आगे के विकास की उम्मीद है।