इंटरनेट वॉच फ़ाउंडेशन (IWF), जो यूके स्थित एक चैरिटी है और ऑनलाइन बाल यौन शोषण से संबंधित सामग्री की पहचान कर उसे हटाने पर केंद्रित है, ने ऐसी छवियां मिलने की सूचना दी है जो एलन मस्क की xAI द्वारा विकसित कृत्रिम बुद्धिमत्ता मॉडल, Grok द्वारा उत्पन्न प्रतीत होती हैं। IWF के निष्कर्ष AI मॉडल के दुर्भावनापूर्ण उद्देश्यों के लिए शोषण की संभावना के बारे में चिंताएं बढ़ाते हैं और हानिकारक सामग्री के निर्माण और प्रसार को रोकने में आने वाली चुनौतियों पर प्रकाश डालते हैं।

IWF ने छवियों के बारे में विशिष्ट विवरण जारी नहीं किए, लेकिन पुष्टि की कि उन्हें बाल यौन शोषण सामग्री के रूप में वर्गीकृत किया गया है। संगठन की तकनीक इंटरनेट पर ऐसी सामग्री के लिए स्कैन करती है, इंटरनेट सेवा प्रदाताओं के साथ मिलकर सामग्री तक पहुंच को अवरुद्ध करती है और इसे कानून प्रवर्तन को रिपोर्ट करती है। एक बयान में, IWF ने AI डेवलपर्स द्वारा अपनी तकनीक के दुरुपयोग को रोकने के लिए मजबूत सुरक्षा उपायों को लागू करने की आवश्यकता पर जोर दिया।

Grok, जिसे 2023 के अंत में लॉन्च किया गया था, एक बड़ा भाषा मॉडल (LLM) है जिसे टेक्स्ट उत्पन्न करने, भाषाओं का अनुवाद करने और सवालों के जवाब देने के लिए डिज़ाइन किया गया है। LLM को टेक्स्ट और कोड के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे मानव जैसी प्रतिक्रियाएं उत्पन्न करने में सक्षम होते हैं। हालांकि, इस प्रशिक्षण का मतलब यह भी है कि अगर ठीक से नियंत्रित नहीं किया गया तो वे संभावित रूप से हानिकारक या अनुचित सामग्री उत्पन्न कर सकते हैं। Grok अपनी कथित "विद्रोही प्रवृत्ति" और X प्लेटफॉर्म (पूर्व में ट्विटर) के माध्यम से वास्तविक समय की जानकारी तक पहुंच के साथ खुद को अलग करता है, जिसका स्वामित्व भी मस्क के पास है।

xAI ने अभी तक IWF के निष्कर्षों को संबोधित करते हुए कोई औपचारिक बयान जारी नहीं किया है। कंपनी ने पहले AI को जिम्मेदारी से विकसित करने की अपनी प्रतिबद्धता बताई है और Grok को हानिकारक सामग्री उत्पन्न करने से रोकने के लिए उपाय लागू किए हैं। इन उपायों में आमतौर पर प्रशिक्षण डेटा को फ़िल्टर करना, मॉडल के आर्किटेक्चर में सुरक्षा प्रोटोकॉल लागू करना और स्वीकार्य उपयोग नीतियों के उल्लंघन के लिए आउटपुट की निगरानी करना शामिल है। हालांकि, IWF की रिपोर्ट बताती है कि ये सुरक्षा उपाय पूरी तरह से प्रभावी नहीं हो सकते हैं।

स्टैनफोर्ड विश्वविद्यालय में AI नैतिकता की प्रोफेसर डॉ. एमिली कार्टर ने कहा, "यह घटना यह सुनिश्चित करने की चल रही चुनौती को रेखांकित करती है कि AI मॉडल का उपयोग हानिकारक सामग्री बनाने के लिए नहीं किया जाता है।" "डेवलपर्स को सुरक्षा को प्राथमिकता देने और दुरुपयोग को रोकने के लिए व्यापक उपाय लागू करने की आवश्यकता है, जिसमें कठोर परीक्षण, सामग्री फ़िल्टरिंग और निरंतर निगरानी शामिल है।"

इस घटना का AI उद्योग पर महत्वपूर्ण प्रभाव पड़ सकता है। इससे AI सुरक्षा प्रोटोकॉल की जांच बढ़ सकती है और LLM के सख्त विनियमन की मांग हो सकती है। उदाहरण के लिए, यूरोपीय संघ का AI अधिनियम, AI के लिए एक कानूनी ढांचा स्थापित करना चाहता है, जिसमें जोखिम मूल्यांकन और शमन के लिए आवश्यकताएं शामिल हैं। Grok से जुड़ी घटना ऐसे नियमों के लिए तर्क को मजबूत कर सकती है।

IWF स्थिति की निगरानी करना जारी रख रहा है और प्रासंगिक अधिकारियों के साथ काम कर रहा है। संगठन किसी भी व्यक्ति को जो ऑनलाइन बाल यौन शोषण से संबंधित सामग्री का सामना करता है, उसे अपनी हॉटलाइन पर रिपोर्ट करने के लिए प्रोत्साहित करता है। यह घटना ऑनलाइन बाल शोषण का मुकाबला करने में सतर्कता और सहयोग के महत्व की याद दिलाती है। अगले चरणों में संभवतः xAI द्वारा एक आंतरिक जांच करना, संभावित रूप से Grok के सुरक्षा प्रोटोकॉल को अपडेट करना और उठाई गई चिंताओं को दूर करने के लिए IWF और अन्य हितधारकों के साथ जुड़ना शामिल होगा।