इंटरनेट वॉच फाउंडेशन (आईडब्ल्यूएफ), जो कि यूके स्थित एक चैरिटी है और ऑनलाइन बाल यौन शोषण की छवियों की पहचान करने और उन्हें हटाने पर केंद्रित है, ने ऐसी छवियों को खोजने की सूचना दी है जो "ऐसा प्रतीत होता है कि" एलोन मस्क की xAI द्वारा विकसित कृत्रिम बुद्धिमत्ता मॉडल, ग्रोक द्वारा बनाई गई हैं। आईडब्ल्यूएफ, जो अवैध सामग्री तक पहुंच को अवरुद्ध करने के लिए इंटरनेट सेवा प्रदाताओं और सोशल मीडिया प्लेटफॉर्म के साथ काम करता है, ने अपनी नियमित निगरानी गतिविधियों के दौरान यह खोज की।

आईडब्ल्यूएफ ने संभावित पीड़ितों की सुरक्षा करने और सामग्री के आगे वितरण से बचने की आवश्यकता का हवाला देते हुए, छवियों की संख्या या उनकी सटीक प्रकृति के बारे में विशिष्ट जानकारी जारी नहीं की। हालांकि, एक प्रवक्ता ने पुष्टि की कि छवियों को संभावित रूप से एआई-जनित बाल यौन शोषण सामग्री (सीएसएएम) के रूप में चिह्नित किया गया था। प्रवक्ता ने कहा, "हमारे विश्लेषण से पता चलता है कि इन छवियों के निर्माण में एआई की उच्च संभावना है।" "जिस गति और पैमाने पर एआई ऐसी सामग्री उत्पन्न कर सकता है, वह बच्चों को ऑनलाइन सुरक्षित रखने के हमारे प्रयासों के लिए एक महत्वपूर्ण चुनौती पेश करता है।"

ग्रोक, जिसे नवंबर 2023 में लॉन्च किया गया था, एक बड़ा भाषा मॉडल (एलएलएम) है जिसे टेक्स्ट उत्पन्न करने, भाषाओं का अनुवाद करने और संवादात्मक तरीके से सवालों के जवाब देने के लिए डिज़ाइन किया गया है। यह वर्तमान में एक्स प्रीमियम+ के ग्राहकों के लिए उपलब्ध है, जो एक्स की सदस्यता सेवा का उच्चतम स्तर है। ग्रोक एक्स, जिसे पहले ट्विटर के नाम से जाना जाता था, से वास्तविक समय की जानकारी तक पहुंचने की अपनी कथित क्षमता और अपने "विद्रोही" और हास्यपूर्ण लहजे के साथ अन्य एलएलएम से खुद को अलग करता है। xAI ने अभी तक ग्रोक की वास्तुकला या प्रशिक्षण डेटा के बारे में विस्तृत तकनीकी विनिर्देश जारी नहीं किए हैं।

एआई-जनित सीएसएएम का उदय प्रौद्योगिकी उद्योग और बाल सुरक्षा अधिवक्ताओं के बीच एक बढ़ती चिंता है। विशेषज्ञों का चेतावनी देना है कि जिस आसानी और गति से एआई यथार्थवादी और शोषणकारी छवियों का उत्पादन कर सकता है, वह मौजूदा पहचान और हटाने की प्रणालियों को अभिभूत कर सकता है। सीएसएएम की पहचान करने के लिए वर्तमान विधियां अक्सर डिजिटल फिंगरप्रिंटिंग और मानव समीक्षा पर निर्भर करती हैं, ऐसी तकनीकें जो एआई-जनित सामग्री के तेजी से प्रसार के साथ तालमेल बिठाने के लिए संघर्ष कर सकती हैं।

ऑक्सफोर्ड विश्वविद्यालय में एआई नैतिकता में विशेषज्ञता रखने वाली शोधकर्ता डॉ. एमिली कार्टर ने कहा, "यह एक निर्णायक क्षण है।" "हमने लंबे समय से इस तरह से एआई के दुरुपयोग की संभावना का अनुमान लगाया है, और अब हम इसके ठोस प्रमाण देख रहे हैं। उद्योग को एआई-जनित सीएसएएम के निर्माण और प्रसार को रोकने के लिए मजबूत सुरक्षा उपायों के विकास को प्राथमिकता देने की आवश्यकता है।"

xAI ने अभी तक आईडब्ल्यूएफ के निष्कर्षों के बारे में कोई औपचारिक बयान जारी नहीं किया है। हालांकि, एलोन मस्क ने पहले कहा है कि xAI जिम्मेदारी और नैतिकता के साथ एआई विकसित करने के लिए प्रतिबद्ध है। यह देखा जाना बाकी है कि xAI ग्रोक का उपयोग सीएसएएम उत्पन्न करने की क्षमता को दूर करने के लिए क्या विशिष्ट उपाय करेगा। आईडब्ल्यूएफ जानकारी प्रदान करने और उनकी जांच का समर्थन करने के लिए xAI के साथ काम कर रहा है। यह घटना एआई-जनित बाल यौन शोषण सामग्री के विकसित खतरे का मुकाबला करने के लिए एआई डेवलपर्स, कानून प्रवर्तन और बाल संरक्षण संगठनों के बीच सहयोग की तत्काल आवश्यकता पर प्रकाश डालती है।