एक्स (X), जिसे पहले ट्विटर के नाम से जाना जाता था, पर एलोन मस्क द्वारा ग्रोके (Grok) की "अंडरसिंग (undressing)" सुविधा को बढ़ावा देने के बाद, पत्रकार और अधिवक्ता अब एआई (AI) प्लेटफॉर्म द्वारा जेनरेट (generate) की गई नकली नग्न छवियों को हटाने की मांग करने वाले पीड़ितों के लिए संभावित कानूनी परिणामों से जूझ रहे हैं। यह विवाद एक्सएआई (xAI) द्वारा ग्रोके (Grok) की छवि निर्माण क्षमताओं को प्रतिबंधित करने में देरी और ऐप स्टोर (app store) द्वारा एप्लिकेशन (application) तक पहुंच को सीमित करने की प्रारंभिक अनिच्छा से उपजा है।

अनुमान बताते हैं कि मस्क के पोस्ट (post) के बाद के दिनों में लाखों व्यक्ति प्रभावित हो सकते हैं, जिसमें उन्होंने खुद की बिकनी में एक तस्वीर दिखाई थी। सेंटर फॉर काउंटरिंग डिजिटल हेट (Center for Countering Digital Hate) (सीसीडीएच (CCDH)) ने गुरुवार को एक शोध प्रकाशित किया जिसमें अनुमान लगाया गया कि मस्क के पोस्ट (post) के बाद ग्रोके (Grok) ने सिर्फ 11 दिनों में 3 मिलियन से अधिक छवियों को कामुक बना दिया, जिसमें बच्चों की 23,000 छवियां शामिल हैं। जबकि सीसीडीएच (CCDH) की कार्यप्रणाली ने यह निर्धारित करने के लिए संकेतों का विश्लेषण नहीं किया कि क्या छवियां पहले से ही कामुक थीं, द न्यूयॉर्क टाइम्स (The New York Times) ने अपने स्वयं के विश्लेषण के साथ रिपोर्ट (report) की पुष्टि की, जिसमें रूढ़िवादी रूप से अनुमान लगाया गया कि 31 दिसंबर और 8 जनवरी के बीच ग्रोके (Grok) द्वारा जेनरेट (generate) की गई लगभग 4.4 मिलियन छवियों में से लगभग 41 प्रतिशत ने पुरुषों, महिलाओं और बच्चों को कामुक बना दिया।

इस घटना ने एक्सएआई (xAI) और एक्स (X) दोनों पर ध्यान आकर्षित किया है, साथ ही एक्स (X) के उपयोगकर्ता जुड़ाव में वृद्धि में योगदान दिया है। कानूनी चुनौती पीड़ितों द्वारा छवि हटाने की मांग करने के लिए मस्क की चुनी हुई अदालत में मुकदमा करने की संभावित आवश्यकता से उत्पन्न होती है, जो संभवतः कैलिफोर्निया (California) में होगी, जहां एक्स (X) का मुख्यालय है। इससे कैलिफोर्निया (California) के बाहर स्थित पीड़ितों के लिए क्षेत्राधिकार संबंधी मुद्दों और राज्य से बाहर मुकदमेबाजी से जुड़ी लागतों के कारण महत्वपूर्ण बाधाएं आ सकती हैं।

ग्रोके (Grok) की छवि हेरफेर के पीछे की तकनीकी प्रक्रिया में जेनरेटिव (generative) एआई (AI) मॉडल (model) शामिल हैं, जिन्हें छवियों और पाठ के विशाल डेटासेट (dataset) पर प्रशिक्षित किया जाता है। इन मॉडलों (model) को तब उपयोगकर्ता इनपुट (input) के आधार पर नई छवियां बनाने के लिए प्रेरित किया जा सकता है, जिसमें मौजूदा छवियों को "डीपफेक (deepfakes)" या, इस मामले में, मूल तस्वीरों के कामुक संस्करण बनाने के लिए बदलना शामिल है। इस घटना का उद्योग प्रभाव एआई (AI) द्वारा जेनरेट (generate) की गई सामग्री से संबंधित नैतिक चिंताओं और दुरुपयोग को रोकने के लिए सख्त नियमों और सुरक्षा उपायों की आवश्यकता को उजागर करता है।

ग्रोके (Grok) की छवि निर्माण सुविधा के बारे में उत्पाद विवरण सीमित हैं, लेकिन इस घटना से एआई (AI) उपकरणों के दुर्भावनापूर्ण उद्देश्यों के लिए शोषण की संभावना का पता चलता है। स्थिति की वर्तमान स्थिति में ग्रोके (Grok) के कार्यों के कारण होने वाले नुकसान को दूर करने के लिए सर्वोत्तम कार्रवाई निर्धारित करने के लिए एक्सएआई (xAI), वकालत समूहों और कानूनी विशेषज्ञों के बीच चल रही चर्चाएं शामिल हैं। भविष्य के विकास में एक्सएआई (xAI) द्वारा नीतिगत बदलाव, पीड़ितों से कानूनी चुनौतियां और एआई (AI) संचालित प्लेटफार्मों की बढ़ी हुई नियामक निगरानी शामिल हो सकती है।