इंटरनेट वॉच फ़ाउंडेशन (IWF) ने बच्चों की यौन छवियों को खोजने की सूचना दी है, जिसका मानना है कि यह xAI द्वारा विकसित कृत्रिम बुद्धिमत्ता चैटबॉट, Grok का उपयोग करके बनाई गई है। IWF, यूके स्थित एक संगठन है जो ऑनलाइन बाल यौन शोषण सामग्री (CSAM) की पहचान करने और उसे हटाने के लिए समर्पित है, ने अपनी नियमित निगरानी गतिविधियों के दौरान यह खोज की।

IWF के अनुसार, यह छवि "Grok द्वारा उत्पन्न हुई प्रतीत होती है"। संगठन ने CSAM के आगे वितरण से बचने की आवश्यकता का हवाला देते हुए, छवियों के बारे में विशिष्ट विवरण जारी नहीं किए। IWF के क्रिस वैलेंस ने खोज की पुष्टि करते हुए कहा कि संगठन इस मुद्दे को हल करने के लिए xAI के साथ काम कर रहा है।

इस खोज से AI मॉडल के दुर्भावनापूर्ण उद्देश्यों, विशेष रूप से CSAM के निर्माण के लिए शोषण की संभावना के बारे में महत्वपूर्ण चिंताएं बढ़ गई हैं। AI छवि निर्माण तकनीक हाल के वर्षों में तेजी से आगे बढ़ी है, जिससे उपयोगकर्ता टेक्स्ट प्रॉम्प्ट से अत्यधिक यथार्थवादी छवियां बना सकते हैं। यह क्षमता, रचनात्मक क्षमता प्रदान करते हुए, दुरुपयोग का जोखिम भी प्रस्तुत करती है। क्षेत्र के विशेषज्ञों ने लंबे समय से AI मॉडल का उपयोग CSAM उत्पन्न करने के लिए किए जाने की संभावना के बारे में चेतावनी दी है, और यह घटना उन चिंताओं की साकार होती हुई प्रतीत होती है।

Grok, xAI, एलोन मस्क की कृत्रिम बुद्धिमत्ता कंपनी द्वारा विकसित एक बड़ा भाषा मॉडल (LLM) है। LLM को टेक्स्ट और कोड के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे मानव जैसी टेक्स्ट उत्पन्न करने, भाषाओं का अनुवाद करने और सवालों के जवाब देने में सक्षम होते हैं। Grok को संवादात्मक और हास्यपूर्ण बनाने के लिए डिज़ाइन किया गया है, और वर्तमान में X Premium+ के ग्राहकों के लिए उपलब्ध है। मॉडल की वास्तुकला और प्रशिक्षण डेटा मालिकाना हक वाले हैं, लेकिन यह समझा जाता है कि यह ट्रांसफॉर्मर नेटवर्क पर आधारित है, जो LLM के लिए एक सामान्य वास्तुकला है।

यह घटना AI डेवलपर्स द्वारा अपनी तकनीक के दुरुपयोग को रोकने में आने वाली चुनौतियों पर प्रकाश डालती है। हानिकारक सामग्री के उत्पादन को रोकने के लिए आमतौर पर सामग्री फ़िल्टर और मॉडरेशन सिस्टम जैसे सुरक्षा उपाय लागू किए जाते हैं। हालाँकि, दृढ़ निश्चयी उपयोगकर्ता इन सुरक्षा उपायों को दरकिनार करने के तरीके खोज सकते हैं, उदाहरण के लिए, सावधानीपूर्वक तैयार किए गए प्रॉम्प्ट का उपयोग करके जो फ़िल्टर को बायपास करते हैं।

xAI ने अभी तक IWF की खोजों के बारे में कोई सार्वजनिक बयान जारी नहीं किया है। यह उम्मीद है कि कंपनी घटना की जांच करेगी और Grok की सुरक्षा में सुधार के लिए कदम उठाएगी। इसमें मॉडल के कंटेंट फिल्टर को परिष्कृत करना, CSAM की पीढ़ी का पता लगाने और रोकने की क्षमता में सुधार करना और तकनीक का दुरुपयोग करने वाले व्यक्तियों की पहचान करने और उन पर मुकदमा चलाने के लिए कानून प्रवर्तन एजेंसियों के साथ काम करना शामिल हो सकता है। इस घटना से AI सुरक्षा उपायों की आगे जांच होने की संभावना है और AI छवि निर्माण तकनीक के सख्त विनियमन के लिए आह्वान किया जा सकता है। उद्योग यह देखने के लिए बारीकी से देखेगा कि xAI कैसे प्रतिक्रिया करता है और भविष्य की घटनाओं को रोकने के लिए क्या उपाय लागू किए जाते हैं।