डीपफेक से निपटने वाले कानून के कार्यान्वयन में कथित तौर पर देरी करने के लिए सरकार आलोचना का सामना कर रही है, खासकर ग्रोके एआई के उभरने और इसके दुरुपयोग की संभावना को देखते हुए। आलोचकों का तर्क है कि देरी समाज को इस तकनीक के दुर्भावनापूर्ण अनुप्रयोगों के प्रति संवेदनशील छोड़ देती है, जिसमें दुष्प्रचार अभियान और पहचान की चोरी शामिल है।

आरोप विशेष रूप से डीपफेक के निर्माण और वितरण को लक्षित करने वाले कानूनों के मसौदे और अधिनियमन की कथित धीमी गति पर केंद्रित है। डीपफेक, संक्षेप में, सिंथेटिक मीडिया हैं जहां किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी और की समानता से बदल दिया जाता है। यह परिष्कृत कृत्रिम बुद्धिमत्ता तकनीकों के माध्यम से प्राप्त किया जाता है, मुख्य रूप से डीप लर्निंग एल्गोरिदम का उपयोग करके - इसलिए यह नाम। ये एल्गोरिदम किसी व्यक्ति के चेहरे की विशेषताओं, भावों और तौर-तरीकों को सीखने के लिए छवियों और वीडियो के विशाल डेटासेट का विश्लेषण करते हैं, जिससे वे किसी वीडियो या ऑडियो रिकॉर्डिंग में उस व्यक्ति की समानता को किसी अन्य व्यक्ति पर me convincing ढंग से आरोपित कर सकते हैं।

ग्रोके एआई की क्षमताओं से चिंता बढ़ जाती है, जो एक्सएआई द्वारा विकसित एक बड़ा भाषा मॉडल (एलएलएम) है। एलएलएम को पाठ डेटा की भारी मात्रा पर प्रशिक्षित किया जाता है, जिससे वे मानव-गुणवत्ता वाला पाठ उत्पन्न करने, भाषाओं का अनुवाद करने और व्यापक तरीके से सवालों के जवाब देने में सक्षम होते हैं। जबकि एलएलएम के कई लाभकारी अनुप्रयोग हैं, उनका उपयोग me convincing नकली समाचार लेख बनाने, व्यक्तियों की यथार्थवादी-ध्वनि वाली ऑडियो उत्पन्न करने के लिए भी किया जा सकता है, जिसमें वे ऐसी बातें कहते हैं जो उन्होंने कभी नहीं कहीं, और यहां तक कि डीपफेक वीडियो बनाने में भी योगदान करते हैं।

डिजिटल अधिकार अधिवक्ता लौरा क्रेस ने कहा, "डीपफेक को विनियमित करने के लिए हम जितनी देर प्रतीक्षा करेंगे, व्यापक हेरफेर और हमारी संस्थाओं में विश्वास के क्षरण का खतरा उतना ही अधिक होगा।" "ग्रोके एआई और इसी तरह की प्रौद्योगिकियां शक्तिशाली उपकरण हैं, लेकिन उचित सुरक्षा उपायों के बिना, उन्हें हथियार बनाया जा सकता है।"

डीपफेक विनियमन को लेकर बहस जटिल है। एक ओर, व्यक्तियों और समाज को डीपफेक के संभावित नुकसान से बचाने की आवश्यकता है। दूसरी ओर, नवाचार को दबाने और भाषण की स्वतंत्रता का उल्लंघन करने के बारे में चिंताएं हैं। किसी भी कानून को इन प्रतिस्पर्धी हितों के बीच एक नाजुक संतुलन बनाना चाहिए।

डीपफेक विनियमन के लिए कई दृष्टिकोणों पर विचार किया जा रहा है। इनमें डीपफेक पर अस्वीकरण की आवश्यकता, दुर्भावनापूर्ण डीपफेक के निर्माण और वितरण को अपराधी बनाना और डीपफेक का पता लगाने के लिए तकनीकी समाधान विकसित करना शामिल है। कुछ शोधकर्ता डिजिटल सामग्री को वॉटरमार्क या फिंगरप्रिंट करने के तरीकों की खोज कर रहे हैं, जिससे हेरफेर किए गए मीडिया की पहचान करना आसान हो जाता है। अन्य एआई-संचालित उपकरणों पर काम कर रहे हैं जो डीपफेक हेरफेर के बताने वाले संकेतों का पता लगाने के लिए वीडियो और ऑडियो रिकॉर्डिंग का विश्लेषण कर सकते हैं।

सरकार ने कहा है कि वह डीपफेक द्वारा प्रस्तुत चुनौतियों का समाधान करने के लिए प्रतिबद्ध है और सक्रिय रूप से कानून पर काम कर रही है। हालांकि, आलोचकों का तर्क है कि प्रक्रिया में बहुत अधिक समय लग रहा है, खासकर एआई तकनीक में तेजी से हो रही प्रगति को देखते हुए। अगले चरणों में संभवतः विशेषज्ञों, हितधारकों और जनता के साथ आगे परामर्श शामिल होगा, जिसके बाद प्रासंगिक विधायी निकाय में कानून का मसौदा तैयार करना और पेश करना होगा। अधिनियमन के लिए समयरेखा अनिश्चित बनी हुई है।