एक्स (X), जिसे पहले ट्विटर के नाम से जाना जाता था, ने बुधवार रात को नए प्रतिबंध लागू किए, जिसका उद्देश्य ग्रोक एआई (Grok AI) इमेज जेनरेटर का उपयोग करके वास्तविक लोगों को उत्तेजक कपड़ों में दर्शाने वाली छवियों के निर्माण को रोकना था। यह नीतिगत बदलाव ग्रोक का उपयोग करके महिलाओं की गैर-सहमति वाली "कपड़े उतारने" वाली तस्वीरें और मंच पर नाबालिगों की यौन छवियों को बनाने के संबंध में व्यापक आलोचना के बाद किया गया।

हालांकि, ऐसा लगता है कि एक्स ने अपने प्लेटफॉर्म के भीतर सुरक्षा उपाय पेश किए हैं, लेकिन शोधकर्ताओं, वायर्ड (WIRED) और अन्य पत्रकारों द्वारा किए गए परीक्षणों के अनुसार, स्टैंडअलोन ग्रोक एप्लिकेशन और वेबसाइट इसी तरह की छवियों को उत्पन्न करना जारी रखते हैं। कुछ उपयोगकर्ताओं ने पिछली क्षमताओं की तुलना में छवियों और वीडियो को बनाने की क्षमता में सीमाओं का अनुभव करने की भी सूचना दी।

पेरिस स्थित गैर-लाभकारी संस्था एआई फोरेंसिक्स (AI Forensics) के प्रमुख शोधकर्ता पॉल बूचॉड (Paul Bouchaud) ने कहा कि संगठन अभी भी Grok.com पर फ़ोटोयथार्थवादी नग्नता उत्पन्न करने में सक्षम था। बूचॉड ने कहा, "हम नग्नता को उन तरीकों से उत्पन्न कर सकते हैं जो एक्स पर ग्रोक नहीं कर सकता है," उन्होंने कहा कि वह यौन छवियों को बनाने के लिए ग्रोक के उपयोग को ट्रैक कर रहे थे और एक्स के बाहर प्लेटफॉर्म पर कई परीक्षण चलाए थे। उन्होंने आगे कहा, "मैं ग्रोक इमेजिन (Grok Imagine) पर एक छवि अपलोड कर सकता हूं और व्यक्ति को बिकनी में डालने के लिए कह सकता हूं, और यह काम करता है।"

यह विसंगति एक ही एआई तकनीक का उपयोग करने वाले विभिन्न प्लेटफार्मों और इंटरफेस में व्यापक सुरक्षा उपायों को लागू करने में आने वाली चुनौतियों को उजागर करती है। ग्रोक की छवि निर्माण क्षमताएं जटिल एल्गोरिदम पर निर्भर करती हैं जिन्हें प्रभावी ढंग से नियंत्रित और मॉनिटर करना मुश्किल हो सकता है। यह तकनीक डिफ्यूजन मॉडल (diffusion models) का उपयोग करती है, जिन्हें छवियों और टेक्स्ट के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे उपयोगकर्ता संकेतों के आधार पर नई छवियां उत्पन्न करने में सक्षम होते हैं। हालांकि, इसका मतलब यह भी है कि यदि ठीक से विनियमित नहीं किया जाता है तो मॉडल का उपयोग हानिकारक या अनुचित सामग्री बनाने के लिए किया जा सकता है।

एक्स पर प्रतिबंधों की शुरुआत एआई-जनित यौन छवियों के मुद्दे को संबोधित करने की दिशा में एक प्रारंभिक कदम का प्रतिनिधित्व करती है। हालांकि, स्टैंडअलोन ग्रोक प्लेटफॉर्म पर ऐसी सामग्री की निरंतर उपलब्धता इन उपायों की प्रभावशीलता के बारे में चिंता पैदा करती है। यह घटना एआई छवि निर्माण से जुड़े संभावित नुकसान को कम करने के लिए प्रौद्योगिकी कंपनियों, शोधकर्ताओं और नीति निर्माताओं के बीच चल रही निगरानी, सुरक्षा प्रोटोकॉल के शोधन और सहयोग की आवश्यकता को रेखांकित करती है। उद्योग के प्रभाव में एआई-संचालित उपकरणों की बढ़ी हुई जांच और दुरुपयोग को रोकने के लिए सख्त नियमों के लिए एक धक्का शामिल हो सकता है।