X, जिसे पहले ट्विटर के नाम से जाना जाता था, ने अपनी ग्रोक एआई चैटबॉट द्वारा बाल यौन शोषण सामग्री (CSAM) उत्पन्न करने के मामलों के लिए उपयोगकर्ताओं पर जिम्मेदारी डाली है, यह कहते हुए कि वह एआई मॉडल में कोई सुधार जारी नहीं करेगा। इसके बजाय, कंपनी एआई को अवैध सामग्री, जिसमें CSAM भी शामिल है, उत्पन्न करने के लिए प्रेरित करने वाले उपयोगकर्ताओं को हटाकर इस मुद्दे को संबोधित करने की योजना बना रही है।

प्लेटफ़ॉर्म के सुरक्षा-केंद्रित विभाग, X Safety की यह घोषणा ग्रोक की सहमति के बिना वास्तविक व्यक्तियों की यौन छवियों को उत्पन्न करने की क्षमता के बारे में लगभग एक सप्ताह की आलोचना के बाद आई है। शनिवार को जारी एक बयान में, X Safety ने CSAM के निर्माण का श्रेय उपयोगकर्ता संकेतों को दिया, चेतावनी दी कि इस तरह की कार्रवाइयों से खाता निलंबन और कानूनी परिणाम हो सकते हैं। X Safety ने कहा, "हम X पर अवैध सामग्री, जिसमें बाल यौन शोषण सामग्री (CSAM) शामिल है, के खिलाफ कार्रवाई करते हैं, इसे हटाकर, खातों को स्थायी रूप से निलंबित करके, और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करके।" "कोई भी व्यक्ति जो ग्रोक का उपयोग अवैध सामग्री बनाने या प्रेरित करने के लिए करता है, उसे वही परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।"

कंपनी का रुख एआई-जनित सामग्री की जिम्मेदारी के आसपास बढ़ती बहस को उजागर करता है, खासकर जब वह सामग्री अवैध या हानिकारक हो। ग्रोक, अन्य बड़े भाषा मॉडल (LLM) की तरह, पाठ और छवियों के विशाल डेटासेट से सीखता है। यह प्रशिक्षण प्रक्रिया एआई को नई सामग्री उत्पन्न करने में सक्षम बनाती है, लेकिन इसका मतलब यह भी है कि यदि ऐसा करने के लिए प्रेरित किया जाता है तो यह संभावित रूप से हानिकारक पूर्वाग्रहों को पुन: उत्पन्न कर सकता है या अवैध सामग्री उत्पन्न कर सकता है। मुख्य चुनौती एआई प्रणालियों को रचनात्मक और उपयोगी आउटपुट उत्पन्न करने की उनकी क्षमता को दबाए बिना हानिकारक सामग्री उत्पन्न करने से रोकना है।

X के मालिक एलोन मस्क ने ग्रोक का उपयोग करके अवैध सामग्री उत्पन्न करने वाले उपयोगकर्ताओं के लिए परिणामों को दोहराते हुए प्लेटफ़ॉर्म पर एक उत्तर को बढ़ावा देकर कंपनी की स्थिति को मजबूत किया। यह दृष्टिकोण संभावित तकनीकी समाधानों के विपरीत है, जैसे कि CSAM के निर्माण को रोकने के लिए फ़िल्टर लागू करना या AI के प्रशिक्षण डेटा को संशोधित करना।

एआई नैतिकता और कानून के विशेषज्ञों ने एक्स के दृष्टिकोण के निहितार्थों के बारे में चिंता व्यक्त की है। कुछ का तर्क है कि जबकि उपयोगकर्ताओं को उनके संकेतों के लिए जवाबदेह ठहराया जाना चाहिए, कंपनी की भी यह जिम्मेदारी है कि वह यह सुनिश्चित करे कि उसकी एआई प्रणालियां पहले स्थान पर अवैध सामग्री के निर्माण को रोकने के लिए डिज़ाइन की गई हैं। इसमें सख्त सामग्री फ़िल्टर लागू करना, संदर्भ और इरादे की AI की समझ में सुधार करना और संभावित उल्लंघनों के लिए इसके आउटपुट की लगातार निगरानी करना शामिल हो सकता है।

ग्रोक और CSAM के आसपास की बहस AI उद्योग के सामने आने वाली व्यापक चुनौतियों को दर्शाती है। जैसे-जैसे AI सिस्टम अधिक शक्तिशाली होते जाते हैं और समाज के विभिन्न पहलुओं में एकीकृत होते जाते हैं, उनके विकास और उपयोग के संबंध में स्पष्ट दिशानिर्देश और नियम स्थापित करना महत्वपूर्ण है। इसमें पूर्वाग्रह, गोपनीयता और दुरुपयोग की संभावना जैसे मुद्दों को संबोधित करना शामिल है। AI सुरक्षा अनुसंधान में नवीनतम विकास प्रतिकूल प्रशिक्षण जैसी तकनीकों पर ध्यान केंद्रित करते हैं, जिसका उद्देश्य AI प्रणालियों को दुर्भावनापूर्ण संकेतों के खिलाफ अधिक मजबूत बनाना है, और व्याख्या योग्य AI (XAI), जो AI प्रणालियों के निर्णय लेने के तरीके की हमारी समझ को बेहतर बनाने का प्रयास करता है।

वर्तमान में, X ने CSAM के निर्माण को रोकने के लिए ग्रोक के अंतर्निहित कोड को अपडेट करने या नए सुरक्षा उपायों को लागू करने की कोई विशिष्ट योजना घोषित नहीं की है। कंपनी का ध्यान उपयोगकर्ता गतिविधि की निगरानी और अपनी सेवा की शर्तों का उल्लंघन करने वालों के खिलाफ कार्रवाई करने पर बना हुआ है। स्थिति अभी भी जारी है, और आगे के विकास की उम्मीद है क्योंकि X AI सामग्री मॉडरेशन की चुनौतियों से जूझना जारी रखता है।