डीपफेक को लेकर बढ़ती चिंताओं के बीच, एलन मस्क के AI चैटबॉट Grok ने सोशल मीडिया प्लेटफॉर्म X पर इमेज जनरेशन क्षमताओं को प्रतिबंधित कर दिया है, और इस सुविधा को केवल भुगतान करने वाले सब्सक्राइबर्स तक सीमित कर दिया है, खासकर महिलाओं और बच्चों से जुड़े यौन प्रकृति के डीपफेक के निर्माण को लेकर बढ़ते विवाद के बीच। X उपयोगकर्ताओं को शुक्रवार को घोषित यह कदम, मस्क और X पर AI टूल के दुरुपयोग को संबोधित करने के लिए बढ़ते दबाव के बाद आया है।

X से स्वतंत्र रूप से संचालित होने वाला स्टैंडअलोन Grok एप्लिकेशन, सदस्यता स्थिति की परवाह किए बिना, सभी उपयोगकर्ताओं को इमेज जेनरेट करने की अनुमति देना जारी रखता है। यह आंशिक प्रतिबंध तब आया है जब मस्क को Grok की ऑनलाइन छवियों को बदलने की क्षमता के संबंध में कई देशों से संभावित जुर्माने और सार्वजनिक आलोचना का सामना करना पड़ा, जिसमें विषयों से कपड़े हटाना भी शामिल है।

डीपफेक, AI-जनित मीडिया जो किसी ऐसे व्यक्ति को कुछ करते या कहते हुए विश्वसनीय रूप से चित्रित करता है जो उन्होंने नहीं किया, परिष्कृत मशीन लर्निंग एल्गोरिदम पर निर्भर करता है। जेनरेटिव एडवर्सैरियल नेटवर्क (GANs) का अक्सर उपयोग किया जाता है, जिसमें दो न्यूरल नेटवर्क एक-दूसरे के खिलाफ खड़े होते हैं: एक नकली सामग्री उत्पन्न करता है, जबकि दूसरा इसे पहचानने की कोशिश करता है। यह पुनरावृत्त प्रक्रिया तेजी से यथार्थवादी जालसाजी में परिणत होती है। Grok जैसे AI टूल की पहुंच ने डीपफेक बनाने के लिए प्रवेश की बाधा को कम कर दिया है, जिससे उनके दुर्भावनापूर्ण उपयोग की संभावना के बारे में चिंताएं बढ़ रही हैं, जिसमें मानहानि, उत्पीड़न और गलत सूचना का प्रसार शामिल है।

यूरोपीय आयोग ने सोमवार को कहा कि वह Grok द्वारा उत्पन्न "भयानक बाल-जैसे डीपफेक" के मामलों की जांच कर रहा है। व्यापक निंदा के बीच, एलन मस्क ने हाल ही में कहा कि Grok का उपयोग करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को ऐसी सामग्री को सीधे अपलोड करने के समान परिणामों का सामना करना पड़ेगा।

यूके ने भी X पर अंतरंग डीपफेक छवियों के प्रसार के खिलाफ कार्रवाई करने के लिए दबाव डाला है। AI तकनीक की तेजी से प्रगति के लिए डीपफेक से जुड़े जोखिमों को कम करने के लिए विनियमन और सामग्री मॉडरेशन के लिए एक सक्रिय दृष्टिकोण की आवश्यकता है। वर्तमान स्थिति AI के विकास और तैनाती में नैतिक विचारों के साथ नवाचार को संतुलित करने की चल रही चुनौती को उजागर करती है। X और स्टैंडअलोन ऐप दोनों पर Grok की इमेज जनरेशन क्षमताओं का भविष्य अनिश्चित बना हुआ है क्योंकि कंपनी इन जटिल मुद्दों से निपटती है।