ब्रिटेन के संचार नियामक, ऑफ़कॉम ने एक्स (X), जिसे पहले ट्विटर के नाम से जाना जाता था, से इस बारे में जानकारी मांगी है कि उसकी ग्रोक्क (Grok) एआई मॉडल बच्चों की यौन छवियों को उत्पन्न कर रही है। यह अनुरोध कृत्रिम बुद्धिमत्ता के संभावित दुरुपयोग के बारे में बढ़ती चिंताओं के बाद आया है, खासकर नाबालिगों से जुड़ी हानिकारक सामग्री बनाने में।

नियामक एक्स (X) द्वारा ऐसी छवियों के निर्माण और प्रसार को रोकने के लिए किए गए उपायों और कंपनी द्वारा आरोपों पर दी जा रही प्रतिक्रिया के बारे में जानकारी मांग रहा है। ऑफ़कॉम के पास उन कंपनियों पर जुर्माना लगाने की शक्ति है जो उपयोगकर्ताओं को हानिकारक सामग्री से बचाने में विफल रहती हैं, और यह जांच यूके के ऑनलाइन सुरक्षा नियमों के साथ एक्स (X) के अनुपालन के बारे में गंभीर चिंता का संकेत देती है।

ग्रोक्क (Grok), एक्स (X) का एआई चैटबॉट, एक बड़ा भाषा मॉडल (large language model - LLM) है, जो एक प्रकार की एआई है जिसे भारी मात्रा में टेक्स्ट डेटा पर प्रशिक्षित किया जाता है। एलएलएम (LLM) टेक्स्ट उत्पन्न कर सकते हैं, भाषाओं का अनुवाद कर सकते हैं और सवालों के जवाब दे सकते हैं, लेकिन उन्हें एआई छवि निर्माण तकनीकों का उपयोग करके चित्र बनाने के लिए भी प्रेरित किया जा सकता है। चिंता यह है कि दुर्भावनापूर्ण अभिनेता बाल यौन शोषण सामग्री (child sexual abuse material - CSAM) बनाने के लिए इन क्षमताओं का फायदा उठा सकते हैं।

ऑफ़कॉम के एक प्रवक्ता ने कहा, "हम इस तरह से एआई के दुरुपयोग की संभावना के बारे में बहुत चिंतित हैं।" "हम एक्स (X) से इस बारे में जानकारी देने के लिए कह रहे हैं कि वे इसे होने से रोकने और ऑनलाइन बच्चों की सुरक्षा सुनिश्चित करने के लिए क्या कदम उठा रहे हैं।"

यह विकास तेजी से आगे बढ़ती एआई तकनीक द्वारा पेश की गई व्यापक सामाजिक चुनौतियों पर प्रकाश डालता है। जबकि एआई कई लाभ प्रदान करता है, यह जोखिम भी प्रस्तुत करता है, जिसमें हानिकारक सामग्री बनाने और फैलाने में दुरुपयोग की संभावना भी शामिल है। विशेषज्ञ इन जोखिमों को कम करने के लिए मजबूत सुरक्षा उपायों और नैतिक दिशानिर्देशों की आवश्यकता पर जोर देते हैं।

बर्लिन के हर्टी स्कूल में नैतिकता और प्रौद्योगिकी की प्रोफेसर डॉ. जोआना ब्रायसन ने कहा, "एआई की यथार्थवादी छवियां उत्पन्न करने की क्षमता सीएसएएम (CSAM) के निर्माण और प्रसार के बारे में गंभीर चिंताएं पैदा करती है।" "यह महत्वपूर्ण है कि एआई तकनीक विकसित और तैनात करने वाली कंपनियां इसके दुरुपयोग को रोकने और बच्चों की सुरक्षा के लिए सक्रिय कदम उठाएं।"

एक्स (X) ने अभी तक ऑफ़कॉम के अनुरोध के बारे में कोई औपचारिक बयान जारी नहीं किया है। हालाँकि, कंपनी ने पहले अपने प्लेटफ़ॉर्म पर सीएसएएम (CSAM) का मुकाबला करने की अपनी प्रतिबद्धता बताई है। जांच चल रही है, और ऑफ़कॉम यह निर्धारित करने के लिए एक्स (X) की प्रतिक्रिया का आकलन करेगा कि आगे कार्रवाई आवश्यक है या नहीं। इस जांच के परिणाम का यूके और उससे आगे एआई और ऑनलाइन सुरक्षा के विनियमन के लिए महत्वपूर्ण प्रभाव पड़ सकता है।