सरकार पर डीपफेक से निपटने के लिए बनाए गए कानून के कार्यान्वयन में देरी करने का आरोप लग रहा है, खासकर Grok AI के उभरने और इसके दुरुपयोग की संभावना को देखते हुए। आलोचकों का तर्क है कि नियामक कार्रवाई की धीमी गति समाज को तेजी से परिष्कृत कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों के दुर्भावनापूर्ण अनुप्रयोगों के प्रति संवेदनशील बना रही है।

चिंता का केंद्र xAI द्वारा विकसित Grok जैसे AI मॉडल की अत्यधिक यथार्थवादी और भ्रामक ऑडियो और वीडियो सामग्री उत्पन्न करने की क्षमता है। जेनरेटिव एडवर्सैरियल नेटवर्क (GANs) और डिफ्यूजन मॉडल जैसी तकनीकों का उपयोग करके बनाए गए डीपफेक, वास्तविक व्यक्तियों की convincingly नकल कर सकते हैं, जिससे प्रामाणिक और मनगढ़ंत सामग्री के बीच अंतर करना मुश्किल हो जाता है। यह क्षमता राजनीतिक हेरफेर, धोखाधड़ी और प्रतिष्ठा को नुकसान पहुंचाने के लिए महत्वपूर्ण जोखिम पैदा करती है।

यूनिवर्सिटी ऑफ कैलिफोर्निया, बर्कले में AI एथिक्स की प्रोफेसर डॉ. अन्या शर्मा ने कहा, "प्रौद्योगिकी तेजी से विकसित हो रही है, लेकिन हमारे कानूनी ढांचे बहुत पीछे हैं।" "हमें सक्रिय कानून की आवश्यकता है जो डीपफेक द्वारा उत्पन्न विशिष्ट चुनौतियों का समाधान करे, जिसमें देयता, सामग्री लेबलिंग और उपयोगकर्ता शिक्षा पर स्पष्ट दिशानिर्देश शामिल हैं।"

जेनरेटिव एडवर्सैरियल नेटवर्क, या GANs, में दो न्यूरल नेटवर्क शामिल होते हैं: एक जनरेटर जो सिंथेटिक डेटा बनाता है और एक डिस्क्रिमिनेटर जो वास्तविक और नकली डेटा के बीच अंतर करने का प्रयास करता है। इस प्रतिकूल प्रक्रिया के माध्यम से, जनरेटर तेजी से यथार्थवादी आउटपुट का उत्पादन करना सीखता है। डिफ्यूजन मॉडल, डीपफेक निर्माण में उपयोग की जाने वाली एक अन्य तकनीक, धीरे-धीरे एक छवि या वीडियो में शोर जोड़कर और फिर प्रक्रिया को उलटने, शोर से नई सामग्री उत्पन्न करने के बारे में सीखकर काम करती है।

कानून में देरी का श्रेय कई कारकों को दिया जाता है, जिसमें प्रौद्योगिकी की जटिलता, अंतर्राष्ट्रीय सहयोग की आवश्यकता और भाषण की स्वतंत्रता का उल्लंघन करने की चिंताएं शामिल हैं। कुछ नीति निर्माताओं का तर्क है कि अत्यधिक व्यापक नियम नवाचार को दबा सकते हैं और AI के लाभकारी अनुप्रयोगों में बाधा डाल सकते हैं।

न्याय विभाग के एक प्रवक्ता ने कहा, "हम डीपफेक तकनीक के निहितार्थों पर सावधानीपूर्वक विचार कर रहे हैं और एक संतुलित नियामक दृष्टिकोण विकसित करने के लिए काम कर रहे हैं।" "हमारा लक्ष्य AI क्षेत्र में जिम्मेदार नवाचार को बढ़ावा देते हुए जनता को नुकसान से बचाना है।"

हालांकि, वकालत समूहों का तर्क है कि कानूनी स्पष्टता की वर्तमान कमी पहले से ही सार्वजनिक चर्चा पर प्रतिकूल प्रभाव डाल रही है। डीपफेक हमलों से लक्षित होने का डर व्यक्तियों को ऑनलाइन अपनी राय व्यक्त करने से हतोत्साहित कर सकता है, खासकर संवेदनशील विषयों पर।

कई देशों ने पहले ही डीपफेक को संबोधित करने के लिए कानून लागू कर दिया है या इस पर विचार कर रहे हैं। यूरोपीय संघ के डिजिटल सेवा अधिनियम में डीपफेक सहित अवैध सामग्री की पहचान करने और हटाने के प्रावधान शामिल हैं। संयुक्त राज्य अमेरिका में, कुछ राज्यों ने विशेष रूप से दुर्भावनापूर्ण डीपफेक के निर्माण और वितरण को लक्षित करने वाले कानून पारित किए हैं।

डीपफेक विनियमन पर बहस तेजी से विकसित हो रही AI प्रौद्योगिकियों को नियंत्रित करने की व्यापक चुनौती को उजागर करती है। विशेषज्ञ एक बहुआयामी दृष्टिकोण की आवश्यकता पर जोर देते हैं जिसमें तकनीकी समाधान, जैसे वॉटरमार्किंग और सामग्री प्रमाणीकरण, साथ ही कानूनी और नैतिक ढांचे शामिल हैं।

सरकार ने घोषणा की है कि वह डीपफेक विनियमन पर सार्वजनिक परामर्शों की एक श्रृंखला आयोजित कर रही है और आने वाले महीनों में मसौदा कानून पेश करने की योजना बना रही है। इन उपायों की प्रभावशीलता समाज को नुकसान से बचाने और कृत्रिम बुद्धिमत्ता के क्षेत्र में नवाचार को बढ़ावा देने के बीच संतुलन बनाने की उनकी क्षमता पर निर्भर करेगी। Grok AI जैसे मॉडलों के विकास और तैनाती ने इस कार्य की तात्कालिकता को और तेज कर दिया है।