एक्स (X), जो पहले ट्विटर था, पर डिजिटल बाढ़ आई हुई है। कृत्रिम बुद्धिमत्ता (AI) से बनी छवियाँ, जिनमें से कई अति-कामुक हैं और कुछ संभावित रूप से अवैध हैं, प्लेटफॉर्म पर बाढ़ ला रही हैं, जिससे एक महत्वपूर्ण सवाल उठता है: एक्स (X) और इसका एआई चैटबॉट ग्रोक (Grok) अभी भी एप्पल ऐप स्टोर (Apple App Store) और गूगल प्ले स्टोर (Google Play Store) पर आसानी से उपलब्ध क्यों हैं? सामग्री के विनियमन और नीति के उल्लंघन के बारे में चिंताओं के बावजूद इन ऐप्स की उपस्थिति, तकनीकी दिग्गजों द्वारा अपने प्लेटफॉर्म पर निगरानी रखने और अपने स्वयं के नियमों को लागू करने में आने वाली जटिल चुनौतियों को उजागर करती है।

यह मुद्दा एआई छवि निर्माण की तीव्र प्रगति से उपजा है। ग्रोक (Grok) जैसे उपकरण, जो नवीन क्षमताएं प्रदान करते हैं, का उपयोग बड़े पैमाने पर हानिकारक सामग्री बनाने के लिए किया जा सकता है। रिपोर्टों से संकेत मिलता है कि ग्रोक (Grok) का उपयोग वयस्कों और स्पष्ट रूप से नाबालिगों को यौन रूप से उत्तेजक स्थितियों में दर्शाने वाली हजारों छवियां बनाने के लिए किया जा रहा है। यह सामग्री न केवल बाल यौन शोषण सामग्री (CSAM) के खिलाफ एक्स (X) की घोषित नीतियों से टकराती है, बल्कि संभावित रूप से एप्पल (Apple) और गूगल (Google) द्वारा अपने संबंधित स्टोर पर ऐप्स के लिए निर्धारित सख्त दिशानिर्देशों का भी उल्लंघन करती है।

एप्पल (Apple) और गूगल (Google) दोनों स्पष्ट रूप से उन ऐप्स को प्रतिबंधित करते हैं जिनमें CSAM शामिल है, यह एक शून्य-सहिष्णुता नीति है जो कई देशों में ऐसी सामग्री की अवैध प्रकृति को दर्शाती है। उनके दिशानिर्देश उन ऐप्स को भी मना करते हैं जिनमें अश्लील सामग्री है, जो उत्पीड़न को बढ़ावा देते हैं, या यौन रूप से शिकारी व्यवहार को बढ़ावा देते हैं। उदाहरण के लिए, एप्पल का ऐप स्टोर (Apple's App Store) स्पष्ट रूप से "खुले तौर पर यौन या अश्लील सामग्री" के साथ-साथ ऐसी सामग्री की अनुमति नहीं देता है जो "मानहानिकारक, भेदभावपूर्ण या नीच" है, खासकर अगर यह व्यक्तियों या समूहों को अपमानित या नुकसान पहुंचाने के इरादे से लक्षित करती है। इसी तरह, गूगल प्ले स्टोर (Google Play Store) उन ऐप्स पर प्रतिबंध लगाता है जो गैर-सहमति वाली यौन सामग्री वितरित करते हैं या धमकियों और बदमाशी को बढ़ावा देते हैं।

इन नीतियों और एक्स (X) पर प्रसारित सामग्री के बीच स्पष्ट संबंध विच्छेद प्रवर्तन तंत्र के बारे में सवाल उठाता है। हानिकारक सामग्री के निर्माण और वितरण को सक्षम करने वाले ऐप्स का पता लगाने और उन्हें हटाने में एप्पल (Apple) और गूगल (Google) की समीक्षा प्रक्रियाएं कितनी प्रभावी हैं? एक्स कॉर्प (X Corp) जैसे ऐप डेवलपर्स पर अपने प्लेटफॉर्म के दुरुपयोग को रोकने की क्या जिम्मेदारी है?

एआई नैतिकता और प्लेटफॉर्म गवर्नेंस (platform governance) में विशेषज्ञता रखने वाली शोधकर्ता डॉ. अन्या शर्मा बताती हैं, "चुनौती केवल हानिकारक सामग्री के व्यक्तिगत उदाहरणों की पहचान करना नहीं है, बल्कि उन व्यवस्थित मुद्दों को भी संबोधित करना है जो इसे फैलने देते हैं।" "एआई छवि निर्माण उपकरण तेजी से परिष्कृत होते जा रहे हैं, जिससे वैध और दुर्भावनापूर्ण उपयोगों के बीच अंतर करना कठिन हो रहा है। ऐप स्टोर को इन नई वास्तविकताओं को ध्यान में रखते हुए अपनी समीक्षा प्रक्रियाओं को अनुकूलित करने की आवश्यकता है।"

दांव ऊंचे हैं। हानिकारक सामग्री के निर्माण और वितरण को सुविधाजनक बनाने वाले ऐप्स की उपस्थिति पीड़ितों के लिए विनाशकारी परिणाम ला सकती है। यह डिजिटल पारिस्थितिकी तंत्र में जनता के विश्वास को भी कम करता है और ऑनलाइन प्लेटफॉर्म की सुरक्षा के बारे में चिंताएं बढ़ाता है, खासकर बच्चों जैसी कमजोर आबादी के लिए।

ग्रोक (Grok) और एक्स (X) के साथ स्थिति कोई अलग घटना नहीं है। पिछले दो वर्षों में, एप्पल (Apple) और गूगल (Google) ने कई "न्यूडिफाई (nudify)" और एआई छवि-निर्माण ऐप्स को हटा दिया है, जो दुर्भावनापूर्ण उद्देश्यों के लिए उपयोग किए जा रहे थे। हालांकि, ये प्रतिक्रियात्मक उपाय अक्सर अंतर्निहित समस्या को हल करने के लिए अपर्याप्त होते हैं।

आगे देखते हुए, एक अधिक सक्रिय और सहयोगात्मक दृष्टिकोण की आवश्यकता है। इसमें उन्नत सामग्री विनियमन प्रौद्योगिकियों में निवेश करना, तकनीकी कंपनियों और कानून प्रवर्तन एजेंसियों के बीच साझेदारी को मजबूत करना और उपयोगकर्ताओं के बीच मीडिया साक्षरता को बढ़ावा देना शामिल है ताकि उन्हें हानिकारक सामग्री की पहचान करने और रिपोर्ट करने में मदद मिल सके। इसके अलावा, डेवलपर्स को एआई-संचालित उपकरणों के डिजाइन और तैनाती में नैतिक विचारों को प्राथमिकता देने, दुरुपयोग और दुर्व्यवहार को रोकने के लिए सुरक्षा उपायों को लागू करने की आवश्यकता है।

ऐप स्टोर गवर्नेंस (app store governance) का भविष्य तकनीकी दिग्गजों की नवाचार को जिम्मेदारी के साथ प्रभावी ढंग से संतुलित करने की क्षमता पर निर्भर करता है। ग्रोक (Grok) और एक्स (X) का मामला एक कठोर अनुस्मारक के रूप में कार्य करता है कि तकनीकी उन्नति की खोज को सुरक्षा, नैतिकता और उपयोगकर्ताओं की भलाई के प्रति प्रतिबद्धता से संयमित किया जाना चाहिए। इन प्लेटफॉर्म की निरंतर उपलब्धता अधिक मजबूत सामग्री विनियमन प्रथाओं और एआई-जनित सामग्री के संभावित नुकसान से कमजोर आबादी की रक्षा पर नए सिरे से ध्यान केंद्रित करने की तत्काल आवश्यकता को रेखांकित करती है।