सरकार को डीपफेक तकनीक के दुरुपयोग से निपटने के लिए बनाए गए कानून के कार्यान्वयन में कथित तौर पर देरी करने के लिए आलोचना का सामना करना पड़ रहा है, खासकर ग्रोोक एआई के उभरने के बाद, जो एक नया कृत्रिम बुद्धिमत्ता मॉडल है जो अत्यधिक यथार्थवादी सिंथेटिक मीडिया उत्पन्न करने में सक्षम है। आलोचकों का तर्क है कि देरी समाज को डीपफेक के संभावित नुकसान के प्रति संवेदनशील बनाती है, जिसमें गलत सूचना अभियान, प्रतिष्ठा को नुकसान और यहां तक कि वित्तीय धोखाधड़ी भी शामिल है।

चिंताएँ एक्सएआई द्वारा विकसित ग्रोोक जैसे एआई उपकरणों की बढ़ती परिष्कार और पहुंच पर केंद्रित हैं। ग्रोोक, अन्य बड़े भाषा मॉडल (एलएलएम) की तरह, पाठ और छवियों के विशाल डेटासेट पर प्रशिक्षित है, जो इसे यथार्थवादी पाठ, चित्र और वीडियो उत्पन्न करने में सक्षम बनाता है। यह क्षमता, सामग्री निर्माण और शिक्षा जैसे क्षेत्रों में संभावित लाभ प्रदान करते हुए, दुर्भावनापूर्ण उपयोग का एक महत्वपूर्ण जोखिम भी प्रस्तुत करती है। ऐसे उपकरणों के साथ बनाए गए डीपफेक का पता लगाना मुश्किल हो सकता है, जिससे प्रामाणिक और मनगढ़ंत सामग्री के बीच अंतर करना चुनौतीपूर्ण हो जाता है।

यूनिवर्सिटी ऑफ कैलिफोर्निया, बर्कले में एआई एथिक्स की प्रोफेसर डॉ. अन्या शर्मा ने कहा, "डीपफेक को विनियमित करने में हम जितनी देर करेंगे, बुरे अभिनेताओं के लिए इस तकनीक का फायदा उठाने के उतने ही अधिक अवसर होंगे।" "हमें स्पष्ट कानूनी ढांचे की आवश्यकता है जो यह परिभाषित करें कि डीपफेक क्या है, इसके दुरुपयोग के लिए दायित्व स्थापित करें और निवारण के लिए तंत्र प्रदान करें।"

प्रस्तावित कानून, जिस पर कई महीनों से विचार किया जा रहा है, का उद्देश्य डीपफेक के लिए कानूनी परिभाषाएँ स्थापित करके, उनके दुर्भावनापूर्ण निर्माण और वितरण के लिए दंड की रूपरेखा तैयार करके और सामग्री प्रमाणीकरण के लिए एक ढांचा बनाकर इन चिंताओं को दूर करना है। हालाँकि, विधेयक पर प्रगति कथित तौर पर विनियमों के दायरे पर असहमति और भाषण की स्वतंत्रता पर संभावित प्रभावों के बारे में चिंताओं के कारण रुकी हुई है।

कुछ का तर्क है कि अत्यधिक व्यापक नियम एआई तकनीक के वैध उपयोगों, जैसे कि व्यंग्य और कलात्मक अभिव्यक्ति को दबा सकते हैं। अन्य का कहना है कि डीपफेक के संभावित नुकसान इन चिंताओं से अधिक हैं और व्यक्तियों और संस्थानों की रक्षा के लिए मजबूत नियम आवश्यक हैं।

यह बहस तेजी से विकसित हो रही एआई तकनीकों को विनियमित करने की जटिल चुनौतियों पर प्रकाश डालती है। नीति निर्माताओं को समाज को संभावित नुकसान से बचाने की आवश्यकता को नवाचार को बढ़ावा देने और अनपेक्षित परिणामों से बचने की इच्छा के साथ संतुलित करना चाहिए।

कानून की वर्तमान स्थिति अनिश्चित बनी हुई है। सरकारी अधिकारियों ने कहा है कि वे डीपफेक के मुद्दे को संबोधित करने के लिए प्रतिबद्ध हैं, लेकिन उन्होंने यह नहीं बताया है कि विधेयक को कब अंतिम रूप दिया जा सकता है। इस बीच, विशेषज्ञ व्यक्तियों और संगठनों से डीपफेक की संभावना के बारे में सतर्क रहने और उनके प्रभाव का पता लगाने और कम करने के लिए रणनीतियों को विकसित करने का आग्रह कर रहे हैं। कई तकनीकी कंपनियां डीपफेक का पता लगाने के लिए उपकरण विकसित करने पर भी काम कर रही हैं, लेकिन तकनीक लगातार विकसित हो रही है, जिससे यह रचनाकारों और डिटेक्टरों के बीच एक निरंतर हथियारों की दौड़ बन गई है।