एक्स (X), जिसे पहले ट्विटर के नाम से जाना जाता था, ने अपने प्लेटफॉर्म पर उपयोगकर्ताओं को वास्तविक लोगों की ऐसी तस्वीरें संपादित करने और बनाने से रोकने के लिए नए प्रतिबंध लगाए हैं जिनमें वे कम कपड़े पहने हुए हों। यह कदम ग्रोके (Grok) एआई (AI) के गैर-सहमति वाले, यौन रूप से स्पष्ट चित्र बनाने के लिए उपयोग किए जाने की व्यापक आलोचना के बाद उठाया गया है। बुधवार रात को पेश की गई नीति परिवर्तन का उद्देश्य महिलाओं की हानिकारक "कपड़े उतारने" वाली तस्वीरों और स्पष्ट रूप से नाबालिगों की यौन छवियों के निर्माण के बारे में चिंताओं को दूर करना है।

हालांकि, ऐसा लगता है कि एक्स (X) ने अपने प्लेटफॉर्म के भीतर ग्रोके (Grok) की छवि निर्माण के लिए सुरक्षा उपाय पेश किए हैं, लेकिन स्वतंत्र परीक्षणों से पता चलता है कि स्टैंड-अलोन ग्रोके (Grok) ऐप और वेबसाइट अभी भी ऐसी छवियों के निर्माण की अनुमति देते हैं। WIRED के शोधकर्ताओं, पत्रकारों और अन्य परीक्षकों ने स्वतंत्र ग्रोके (Grok) प्लेटफॉर्म के माध्यम से "कपड़े उतारने-शैली" की छवियों और पोर्नोग्राफिक सामग्री बनाने में सक्षम होने की सूचना दी। इसके विपरीत, कुछ उपयोगकर्ताओं ने पिछली क्षमताओं की तुलना में छवियों और वीडियो बनाने की क्षमता में कमी की सूचना दी है।

पेरिस स्थित गैर-लाभकारी संस्था एआई (AI) फोरेंसिक्स के प्रमुख शोधकर्ता पॉल बूचाउड ने कहा, "हम अभी भी Grok.com पर फ़ोटो-यथार्थवादी नग्नता उत्पन्न कर सकते हैं... हम नग्नता को उन तरीकों से उत्पन्न कर सकते हैं जो एक्स (X) पर ग्रोके (Grok) नहीं कर सकता है।" बूचाउड, जो यौन छवियों को बनाने के लिए ग्रोके (Grok) के उपयोग को ट्रैक कर रहे हैं, ने एक्स (X) प्लेटफॉर्म के बाहर कई परीक्षण किए। उन्होंने आगे बताया, "मैं ग्रोके (Grok) इमेजिन पर एक छवि अपलोड कर सकता हूं और व्यक्ति को बिकनी में डालने के लिए कह सकता हूं, और यह काम करता है।"

एक्स (X) पर प्रतिबंधों और स्टैंड-अलोन ग्रोके (Grok) की क्षमताओं के बीच विसंगति एआई (AI) छवि निर्माण तकनीक को विनियमित करने में चुनौतियों को उजागर करती है। छवियों में हेरफेर करने और समझौता करने वाली स्थितियों में व्यक्तियों के यथार्थवादी चित्रण बनाने की क्षमता महत्वपूर्ण नैतिक और कानूनी चिंताएं पैदा करती है, खासकर सहमति और दुरुपयोग की संभावना के संबंध में।

ग्रोके (Grok) और इसी तरह के एआई (AI) छवि निर्माण उपकरणों की शुरूआत ने तकनीकी उद्योग और नीति निर्माताओं के बीच सख्त नियमों और सुरक्षा उपायों की आवश्यकता के बारे में बहस छेड़ दी है। विशेषज्ञों का तर्क है कि डेवलपर्स को ऐसी तकनीकों को तैनात करते समय सुरक्षा और नैतिक विचारों को प्राथमिकता देनी चाहिए, जिसमें मजबूत सामग्री मॉडरेशन सिस्टम और हानिकारक या शोषणकारी सामग्री के निर्माण को रोकने के लिए तंत्र शामिल हैं।

ग्रोके (Grok) की छवि निर्माण क्षमताओं की वर्तमान स्थिति कई लोगों के लिए चिंता का विषय बनी हुई है, क्योंकि स्टैंड-अलोन प्लेटफॉर्म पर दुरुपयोग की संभावना बनी हुई है। यह स्पष्ट नहीं है कि एक्स (X) चल रहे मुद्दे को हल करने और सभी ग्रोके (Grok) प्लेटफार्मों पर लगातार सुरक्षा उपायों को सुनिश्चित करने के लिए क्या कदम उठाने की योजना बना रहा है। आगे के विकास की उम्मीद है क्योंकि शोधकर्ता और वकालत समूह स्थिति की निगरानी करना और मजबूत नियमों के लिए दबाव डालना जारी रखते हैं।