कैलिफ़ोर्निया के अटॉर्नी जनरल रॉब बोन्टा ने शुक्रवार को xAI को एक सीज़-एंड-डेसिस्ट पत्र जारी किया, जिसमें कंपनी से डीपफेक, गैर-सहमतिपूर्ण अंतरंग छवियों और बाल यौन शोषण सामग्री (CSAM) के निर्माण और वितरण को तुरंत रोकने की मांग की गई। यह कार्रवाई इस सप्ताह की शुरुआत में की गई घोषणा के बाद हुई है कि कैलिफ़ोर्निया के अटॉर्नी जनरल का कार्यालय xAI, एलन मस्क के आर्टिफिशियल इंटेलिजेंस स्टार्टअप की जांच कर रहा है, क्योंकि ऐसी खबरें हैं कि इसके चैटबॉट, ग्रोक का उपयोग महिलाओं और नाबालिगों की गैर-सहमतिपूर्ण यौन छवियों को उत्पन्न करने के लिए किया जा रहा था।
बोन्टा ने एक प्रेस विज्ञप्ति में कहा, "आज, मैंने xAI को एक सीज़-एंड-डेसिस्ट पत्र भेजा है, जिसमें कंपनी से डीपफेक, गैर-सहमतिपूर्ण, अंतरंग छवियों और बाल यौन शोषण सामग्री के निर्माण और वितरण को तुरंत रोकने की मांग की गई है। इस सामग्री का निर्माण अवैध है। मुझे पूरी उम्मीद है कि xAI तुरंत इसका पालन करेगा। कैलिफ़ोर्निया में CSAM के लिए बिल्कुल भी सहनशीलता नहीं है।"
अटॉर्नी जनरल के कार्यालय ने यह भी दावा किया कि xAI गैर-सहमतिपूर्ण नग्न तस्वीरों के बड़े पैमाने पर उत्पादन को सुविधाजनक बनाता हुआ प्रतीत होता है, जिनका कथित तौर पर महिलाओं और लड़कियों को ऑनलाइन परेशान करने के लिए उपयोग किया जा रहा है। एजेंसी ने xAI को इन मुद्दों को संबोधित करने के लिए उठाए जा रहे कदमों को प्रदर्शित करने के लिए पांच दिन का समय दिया है।
विवाद के केंद्र में ग्रोक का "स्पाइसी मोड" फ़ीचर है। यह फ़ीचर, जिसे AI से अधिक अनर्गल और संभावित रूप से विवादास्पद प्रतिक्रियाओं की अनुमति देने के लिए डिज़ाइन किया गया है, ने उपयोगकर्ताओं के लिए यौन रूप से स्पष्ट सामग्री उत्पन्न करने का द्वार खोल दिया है। इस संदर्भ में, डीपफेक AI-जनित छवियों या वीडियो को संदर्भित करते हैं जो व्यक्तियों को ऐसे काम करते या कहते हुए दिखाते हैं जो उन्होंने वास्तव में कभी नहीं किए। यह तकनीक महत्वपूर्ण नैतिक और कानूनी चिंताएँ पैदा करती है, खासकर जब इसका उपयोग गैर-सहमतिपूर्ण पोर्नोग्राफी बनाने या बच्चों का शोषण करने के लिए किया जाता है।
डीपफेक उत्पन्न करने के लिए AI का उपयोग तेजी से परिष्कृत हो गया है, जिससे वास्तविक और मनगढ़ंत सामग्री के बीच अंतर करना मुश्किल हो गया है। यह कानून प्रवर्तन और सामग्री मॉडरेशन प्रयासों के लिए एक महत्वपूर्ण चुनौती है। AI नैतिकता के विशेषज्ञों ने लंबे समय से इन तकनीकों के दुरुपयोग की संभावना के बारे में चेतावनी दी है, खासकर हानिकारक और अवैध सामग्री के निर्माण में।
xAI ने अभी तक सीज़-एंड-डेसिस्ट पत्र के जवाब में कोई सार्वजनिक बयान जारी नहीं किया है। कंपनी अब कैलिफ़ोर्निया के अटॉर्नी जनरल के कार्यालय को यह प्रदर्शित करने की चुनौती का सामना कर रही है कि वह अपनी तकनीक के दुरुपयोग को रोकने और गैर-सहमतिपूर्ण अंतरंग छवियों के निर्माण और वितरण से व्यक्तियों की रक्षा करने के लिए पर्याप्त उपाय कर रही है। इस जांच के परिणाम AI तकनीकों के विनियमन और विकास के लिए महत्वपूर्ण निहितार्थ हो सकते हैं, खासकर उन तकनीकों के लिए जिनमें यथार्थवादी और संभावित रूप से हानिकारक सामग्री उत्पन्न करने की क्षमता है।
Discussion
Join the conversation
Be the first to comment