कैलिफ़ोर्निया के अटॉर्नी जनरल रॉब बोन्टा ने शुक्रवार को xAI को एक सीज़-एंड-डेसिस्ट पत्र जारी किया, जिसमें कंपनी से डीपफेक, गैर-सहमतिपूर्ण, अंतरंग छवियों और बाल यौन शोषण सामग्री (CSAM) के निर्माण और वितरण को तुरंत रोकने की मांग की गई। यह कार्रवाई अटॉर्नी जनरल के कार्यालय की उस पूर्व घोषणा के बाद हुई है जिसमें कहा गया था कि वह xAI, एलोन मस्क के कृत्रिम बुद्धिमत्ता स्टार्टअप, की जांच कर रहा है, क्योंकि ऐसी खबरें आई थीं कि इसके चैटबॉट, ग्रोक का उपयोग महिलाओं और नाबालिगों की गैर-सहमतिपूर्ण यौन छवियों को उत्पन्न करने के लिए किया जा रहा था।

बोन्टा ने एक प्रेस विज्ञप्ति में कहा, "आज, मैंने xAI को एक सीज़-एंड-डेसिस्ट पत्र भेजा, जिसमें कंपनी से डीपफेक, गैर-सहमतिपूर्ण, अंतरंग छवियों और बाल यौन शोषण सामग्री के निर्माण और वितरण को तुरंत रोकने की मांग की गई है। इस सामग्री का निर्माण अवैध है। मुझे पूरी उम्मीद है कि xAI तुरंत इसका पालन करेगा। कैलिफ़ोर्निया में CSAM के लिए शून्य सहनशीलता है।"

अटॉर्नी जनरल के कार्यालय ने आगे दावा किया कि xAI गैर-सहमतिपूर्ण नग्न तस्वीरों के बड़े पैमाने पर उत्पादन को सुविधाजनक बनाता हुआ प्रतीत होता है, जिनका कथित तौर पर महिलाओं और लड़कियों को ऑनलाइन परेशान करने के लिए उपयोग किया जा रहा था। एजेंसी को उम्मीद है कि xAI पांच दिनों के भीतर यह प्रदर्शित करेगा कि वह इन मुद्दों को हल करने के लिए क्या कदम उठा रहा है।

विवाद के केंद्र में ग्रोक का "स्पाइसी मोड" फ़ीचर है, जिसे xAI ने AI से अधिक अनर्गल और संभावित रूप से विवादास्पद प्रतिक्रियाओं की अनुमति देने के लिए बनाया था। यह सुविधा, जबकि AI इंटरैक्शन की सीमाओं को आगे बढ़ाने के लिए अभिप्रेत है, ने हानिकारक और अवैध सामग्री के निर्माण का द्वार खोल दिया है।

डीपफेक, सिंथेटिक मीडिया का एक प्रकार है, जो कृत्रिम बुद्धिमत्ता, विशेष रूप से डीप लर्निंग तकनीकों का उपयोग करके यथार्थवादी लेकिन मनगढ़ंत चित्र, ऑडियो और वीडियो बनाता है। यह तकनीक महत्वपूर्ण नैतिक चिंताएँ पैदा करती है, खासकर जब इसका उपयोग गैर-सहमतिपूर्ण पोर्नोग्राफी उत्पन्न करने या गलत सूचना फैलाने के लिए किया जाता है। जिस सापेक्ष आसानी से डीपफेक बनाए और ऑनलाइन प्रसारित किए जा सकते हैं, उसने नुकसान की संभावना को बढ़ा दिया है, जिससे प्रामाणिक और हेरफेर की गई सामग्री के बीच अंतर करना तेजी से मुश्किल हो गया है।

कैलिफ़ोर्निया के अटॉर्नी जनरल का कार्यालय xAI से अपनी तकनीक के दुरुपयोग को कम करने के प्रयासों का प्रमाण देने की मांग कर रहा है। जांच AI विकास और तैनाती के आसपास बढ़ती नियामक जांच पर प्रकाश डालती है, विशेष रूप से दुरुपयोग की संभावना और व्यक्तियों को नुकसान से बचाने के लिए मजबूत सुरक्षा उपायों की आवश्यकता के बारे में। यह मामला उन चुनौतियों को भी रेखांकित करता है जिनका सामना AI कंपनियों को नवाचार को नैतिक विचारों और कानूनी अनुपालन के साथ संतुलित करने में करना पड़ता है। अगले चरणों में संभवतः सीज़-एंड-डेसिस्ट पत्र के लिए xAI की प्रतिक्रिया और कंपनी के प्रस्तावित समाधानों का अटॉर्नी जनरल का आकलन शामिल होगा।