कैलिफ़ोर्निया के अटॉर्नी जनरल, रॉब बोन्टा ने एलोन मस्क के AI मॉडल, ग्रोके (Grok) के ख़िलाफ़ यौन रूप से स्पष्ट AI डीपफेक के निर्माण और प्रसार को लेकर जाँच शुरू की है। बुधवार को घोषित की गई यह जाँच, ग्रोके (Grok) को विकसित करने वाली कंपनी xAI द्वारा कथित तौर पर निर्मित और ऑनलाइन पोस्ट की गई सामग्री पर केंद्रित है।
बोन्टा ने कहा कि "हाल के हफ़्तों में xAI द्वारा निर्मित और ऑनलाइन पोस्ट की गई गैर-सहमति वाली, यौन रूप से स्पष्ट सामग्री का विवरण देने वाली रिपोर्टों की बाढ़ चौंकाने वाली है।" यह जाँच AI सुरक्षा और प्रौद्योगिकी के दुरुपयोग को रोकने में डेवलपर्स की ज़िम्मेदारी के बारे में महत्वपूर्ण सवाल उठाती है।
यह जाँच AI के दुर्भावनापूर्ण उद्देश्यों के लिए हथियार के रूप में इस्तेमाल होने की संभावना को उजागर करती है, जिससे तेजी से परिष्कृत AI प्रौद्योगिकियों से जुड़े जोखिमों को कम करने के लिए विनियमन और नैतिक दिशानिर्देशों पर चर्चा शुरू हो गई है। यह घटनाक्रम ऐसे समय में आया है जब ब्रिटिश प्रधान मंत्री सर कीर स्टारमर ने X (जिसे पहले ट्विटर के नाम से जाना जाता था, और जो मस्क के स्वामित्व में भी है) के ख़िलाफ़ संभावित कार्रवाई की चेतावनी दी है।
xAI ने पहले कहा था कि "जो कोई भी ग्रोके (Grok) का उपयोग अवैध सामग्री बनाने या उसे प्रेरित करने के लिए करेगा, उसे वही परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।" कैलिफ़ोर्निया के अटॉर्नी जनरल की जाँच जारी है।
Discussion
Join the conversation
Be the first to comment