ब्रिटेन के संचार नियामक, ऑफ़कॉम ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स (X), जिसे पहले ट्विटर के नाम से जाना जाता था, के खिलाफ जांच शुरू की है। यह जांच एक्स (X) के आर्टिफिशियल इंटेलिजेंस चैटबॉट, ग्रोके (Grok) द्वारा यौन संबंधी डीपफेक (deepfake) बनाने और प्रसारित करने की आशंकाओं के बाद शुरू की गई है। बुधवार को घोषित की गई इस जांच का केंद्र यह है कि क्या एक्स (X) के पास एआई (AI) उपकरण को अवैध सामग्री, विशेष रूप से बिना सहमति के अंतरंग छवियों का उत्पादन और वितरण करने से रोकने के लिए पर्याप्त सुरक्षा उपाय हैं।

यह जांच ऑनलाइन सुरक्षा अधिनियम (Online Safety Act) के साथ एक्स (X) के अनुपालन की जांच करेगी, जो उपयोगकर्ताओं को अवैध सामग्री और गतिविधि से बचाने के लिए प्लेटफार्मों पर कानूनी दायित्व डालता है। ऑफ़कॉम के पास अधिनियम के उल्लंघन के लिए कंपनियों पर उनके वैश्विक कारोबार का 10% तक जुर्माना लगाने का अधिकार है। ऑफ़कॉम के एक प्रवक्ता ने कहा, "उपयोगकर्ताओं को ऑनलाइन अवैध सामग्री से बचाना हमारी सर्वोच्च प्राथमिकता है।" "हम यह आकलन करने के लिए एक्स (X) की जांच कर रहे हैं कि क्या उन्होंने ग्रोके (Grok) एआई (AI) को अवैध डीपफेक (deepfake) बनाने और साझा करने से रोकने के लिए पर्याप्त कदम उठाए हैं।"

डीपफेक (deepfake), "डीप लर्निंग" (deep learning) और "फेक" (fake) का एक पोर्टमेंटो (portmanteau) है, जो सिंथेटिक मीडिया (synthetic media) है जिसमें किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी और की समानता से बदल दिया जाता है। इस तकनीक, जो परिष्कृत एआई (AI) एल्गोरिदम (algorithm) द्वारा संचालित है, ने गलत सूचना, गोपनीयता के उल्लंघन और दुर्भावनापूर्ण उपयोग की संभावना के बारे में महत्वपूर्ण चिंताएं जताई हैं, जिसमें बिना सहमति के पोर्नोग्राफी (pornography) का निर्माण भी शामिल है। एक्स (X) का एआई (AI) चैटबॉट, ग्रोके (Grok), एक बड़ा भाषा मॉडल (LLM) है जिसे टेक्स्ट (text) और कोड (code) के एक विशाल डेटासेट (dataset) पर प्रशिक्षित किया गया है, जो इसे मानव जैसी टेक्स्ट (text) उत्पन्न करने, भाषाओं का अनुवाद करने और सवालों के जवाब देने में सक्षम बनाता है। चिंता यह है कि उपयोगकर्ता बिना उनकी सहमति के व्यक्तियों की यौन स्पष्ट छवियों को बनाने के लिए ग्रोके (Grok) को प्रेरित कर सकते हैं।

यह जांच एआई (AI) द्वारा उत्पन्न सामग्री को विनियमित करने और इन तकनीकों को तैनात करने वाले प्लेटफार्मों की जिम्मेदारियों की बढ़ती चुनौतियों पर प्रकाश डालती है। विशेषज्ञों का तर्क है कि एआई (AI) कई लाभ प्रदान करता है, लेकिन यह दुरुपयोग के लिए नए रास्ते भी प्रस्तुत करता है। कैम्ब्रिज विश्वविद्यालय में एआई (AI) नैतिकता की प्रोफेसर डॉ. अन्या शर्मा ने कहा, "ग्रोके (Grok) जैसी एआई (AI) तकनीकों की तेजी से उन्नति संभावित नुकसान को कम करने के लिए सक्रिय उपायों की आवश्यकता है।" "प्लेटफार्मों को डीपफेक (deepfake) के निर्माण और प्रसार को रोकने के लिए मजबूत सुरक्षा उपायों को लागू करना चाहिए, खासकर वे जो यौन रूप से स्पष्ट और बिना सहमति के हैं।"

एक्स (X) ने अभी तक ऑफ़कॉम की जांच के बारे में कोई औपचारिक बयान जारी नहीं किया है। हालांकि, मस्क ने पहले प्लेटफॉर्म पर एआई (AI) के दुरुपयोग का मुकाबला करने की अपनी प्रतिबद्धता बताई है। जांच के परिणाम एक्स (X) और अन्य सोशल मीडिया कंपनियों के लिए महत्वपूर्ण निहितार्थ हो सकते हैं जो एआई (AI) को अपनी सेवाओं में एकीकृत कर रही हैं। ऑफ़कॉम के निष्कर्षों से यूके (UK) और अंतरराष्ट्रीय स्तर पर एआई (AI) द्वारा उत्पन्न सामग्री के लिए नियामक ढांचे के विकास को प्रभावित करने की संभावना है। जांच चल रही है, और ऑफ़कॉम से उम्मीद है कि जैसे-जैसे यह आगे बढ़ेगी, अपडेट (update) प्रदान करेगी।