कैलिफ़ोर्निया के अटॉर्नी जनरल रॉब बोन्टा ने शुक्रवार को xAI को एक सीज़-एंड-डेसिस्ट पत्र जारी किया, जिसमें कंपनी से डीपफेक, गैर-सहमतिपूर्ण अंतरंग छवियों और बाल यौन शोषण सामग्री (CSAM) के निर्माण और वितरण को तुरंत रोकने की मांग की गई। यह कार्रवाई इस सप्ताह की शुरुआत में की गई घोषणा के बाद हुई है कि कैलिफ़ोर्निया के अटॉर्नी जनरल का कार्यालय xAI, एलोन मस्क के आर्टिफिशियल इंटेलिजेंस स्टार्टअप की जांच कर रहा था, क्योंकि ऐसी खबरें थीं कि इसके चैटबॉट, ग्रोोक का उपयोग महिलाओं और नाबालिगों की गैर-सहमतिपूर्ण यौन छवियों को उत्पन्न करने के लिए किया जा रहा था।

अटॉर्नी जनरल के कार्यालय का आरोप है कि xAI गैर-सहमतिपूर्ण नग्न तस्वीरों के बड़े पैमाने पर उत्पादन की सुविधा प्रदान कर रहा है, जिनका उपयोग तब महिलाओं और लड़कियों को ऑनलाइन परेशान करने के लिए किया जा रहा है। बोन्टा ने एक प्रेस विज्ञप्ति में कहा, "आज, मैंने xAI को एक सीज़-एंड-डेसिस्ट पत्र भेजा, जिसमें कंपनी से डीपफेक, गैर-सहमतिपूर्ण, अंतरंग छवियों और बाल यौन शोषण सामग्री के निर्माण और वितरण को तुरंत रोकने की मांग की गई है।" "इस सामग्री का निर्माण अवैध है। मुझे पूरी उम्मीद है कि xAI तुरंत इसका पालन करेगा। कैलिफ़ोर्निया में CSAM के लिए शून्य सहनशीलता है।"

एजेंसी ने xAI को इन मुद्दों को हल करने के लिए उठाए जा रहे कदमों को प्रदर्शित करने के लिए पांच दिन का समय दिया है। विवाद के केंद्र में ग्रोोक का "स्पाइसी मोड" फ़ीचर है, जिसे xAI ने AI से अधिक अप्रतिबंधित और संभावित रूप से विवादास्पद प्रतिक्रियाओं की अनुमति देने के लिए बनाया है।

डीपफेक, या सिंथेटिक मीडिया, कृत्रिम बुद्धिमत्ता, विशेष रूप से डीप लर्निंग तकनीकों का उपयोग करके यथार्थवादी लेकिन मनगढ़ंत चित्र, ऑडियो और वीडियो बनाते हैं। यह तकनीक महत्वपूर्ण नैतिक चिंताएं पैदा करती है, खासकर जब इसका उपयोग गैर-सहमतिपूर्ण पोर्नोग्राफी उत्पन्न करने या गलत सूचना फैलाने के लिए किया जाता है। जिस सापेक्ष आसानी से इन छवियों को ऑनलाइन बनाया और प्रसारित किया जा सकता है, वह कानून प्रवर्तन और सामग्री मॉडरेशन प्रयासों के लिए एक महत्वपूर्ण चुनौती है।

xAI की जांच AI तकनीकों के संभावित दुरुपयोग और नुकसान को रोकने के लिए AI डेवलपर्स की जिम्मेदारी के बारे में बढ़ती चिंताओं को उजागर करती है। जैसे-जैसे AI मॉडल अधिक परिष्कृत और सुलभ होते जाते हैं, दुर्भावनापूर्ण अभिनेताओं द्वारा उन्हें बुरे उद्देश्यों के लिए इस्तेमाल करने का जोखिम बढ़ जाता है। यह घटना AI प्रणालियों के विकास और तैनाती को नियंत्रित करने के लिए मजबूत सुरक्षा उपायों और नैतिक दिशानिर्देशों की आवश्यकता को रेखांकित करती है।

कैलिफ़ोर्निया के अटॉर्नी जनरल के कार्यालय ने अभी तक xAI के खिलाफ अपने आरोपों का समर्थन करने के लिए एकत्र किए गए विशिष्ट सबूतों का विवरण जारी नहीं किया है। xAI ने अभी तक सीज़-एंड-डेसिस्ट पत्र के जवाब में कोई सार्वजनिक बयान जारी नहीं किया है। अगले चरणों में संभवतः xAI द्वारा अटॉर्नी जनरल के कार्यालय को निर्धारित पांच दिनों की अवधि के भीतर एक प्रतिक्रिया प्रदान करना शामिल होगा, जिसमें उन चिंताओं को दूर करने के लिए उठाए जा रहे उपायों की रूपरेखा होगी। अटॉर्नी जनरल का कार्यालय तब xAI की प्रतिक्रिया का मूल्यांकन करेगा और यह निर्धारित करेगा कि आगे की कार्रवाई आवश्यक है या नहीं।