सरकार डीपफेक से निपटने के लिए बनाए गए कानून के कार्यान्वयन में देरी करने के आरोपों का सामना कर रही है, खासकर ग्रोके एआई के उदय और इसके दुरुपयोग की संभावना को देखते हुए। आलोचकों का तर्क है कि नियामक कार्रवाई की धीमी गति समाज को तेजी से परिष्कृत कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों के दुर्भावनापूर्ण अनुप्रयोगों के प्रति संवेदनशील बना रही है।

चिंता का केंद्र एक्सएआई द्वारा विकसित ग्रोके जैसे एआई मॉडल की अत्यधिक यथार्थवादी और भ्रामक ऑडियो और वीडियो सामग्री उत्पन्न करने की क्षमता है। जेनरेटिव एडवर्सैरियल नेटवर्क (GANs) जैसी तकनीकों का उपयोग करके बनाए गए डीपफेक वास्तविक लोगों की convincingly नकल कर सकते हैं, जिससे प्रामाणिक और मनगढ़ंत सामग्री के बीच अंतर करना मुश्किल हो जाता है। यह क्षमता दुष्प्रचार अभियानों, प्रतिष्ठा को नुकसान और यहां तक कि राजनीतिक हेरफेर के लिए महत्वपूर्ण जोखिम पैदा करती है।

यूनिवर्सिटी ऑफ टेक्नोलॉजी में एआई एथिक्स की प्रोफेसर डॉ. अन्या शर्मा ने कहा, "प्रौद्योगिकी तेजी से विकसित हो रही है, लेकिन हमारे कानूनी ढांचे बहुत पीछे हैं।" "हमें दुर्भावनापूर्ण डीपफेक के निर्माण और प्रसार को रोकने के लिए स्पष्ट दिशानिर्देशों और नियमों की आवश्यकता है, इससे पहले कि वे अपूरणीय क्षति पहुंचाएं।"

जेनरेटिव एडवर्सैरियल नेटवर्क, या GANs, दो न्यूरल नेटवर्क को एक-दूसरे के खिलाफ खड़ा करके काम करते हैं। एक नेटवर्क, जनरेटर, सिंथेटिक डेटा बनाता है, जबकि दूसरा, डिस्क्रिमिनेटर, वास्तविक और नकली डेटा के बीच अंतर करने की कोशिश करता है। इस पुनरावृत्त प्रक्रिया के माध्यम से, जनरेटर तेजी से यथार्थवादी आउटपुट का उत्पादन करना सीखता है, अंततः convincing डीपफेक के निर्माण की ओर ले जाता है।

प्रस्तावित कानून का उद्देश्य डीपफेक की पहचान, लेबलिंग और हटाने के लिए कानूनी ढांचे स्थापित करके इन चुनौतियों का समाधान करना है। यह भ्रामक सामग्री बनाने और वितरित करने के लिए व्यक्तियों और संगठनों को जवाबदेह ठहराने का भी प्रयास करता है। हालांकि, संसदीय समीक्षा में विधेयक में देरी हुई है, जिससे नागरिक अधिकार समूहों और प्रौद्योगिकी विशेषज्ञों से आलोचना हुई है।

डिजिटल लिबर्टीज कोएलिशन के निदेशक मार्क ओल्सन ने कहा, "हर दिन जो प्रभावी विनियमन के बिना बीतता है, वह एक और दिन है जब दुर्भावनापूर्ण अभिनेता इन प्रौद्योगिकियों का उपयोग बिना किसी डर के कर सकते हैं।" "सरकार को इस मुद्दे को प्राथमिकता देनी चाहिए और डीपफेक के संभावित नुकसान से जनता को बचाने के लिए तेजी से कार्रवाई करनी चाहिए।"

सरकार, अपने बचाव में, दावा करती है कि प्रौद्योगिकी की जटिलता के लिए अनपेक्षित परिणामों से बचने के लिए सावधानीपूर्वक विचार करने की आवश्यकता है, जैसे कि नवाचार को रोकना या भाषण की स्वतंत्रता का उल्लंघन करना। अधिकारियों ने अंतर्राष्ट्रीय सहयोग की आवश्यकता की ओर भी इशारा किया, क्योंकि डीपफेक आसानी से सीमाओं को पार कर सकते हैं, जिससे प्रवर्तन एक चुनौती बन जाता है।

डिजिटल मामलों के विभाग के एक प्रवक्ता ने कहा, "हम डीपफेक से उत्पन्न जोखिमों को दूर करने के लिए प्रतिबद्ध हैं, लेकिन हमें ऐसा इस तरह से करना चाहिए जो प्रभावी और आनुपातिक दोनों हो।" "हम यह सुनिश्चित करने के लिए विशेषज्ञों और हितधारकों के साथ सक्रिय रूप से परामर्श कर रहे हैं कि कानून उद्देश्य के लिए उपयुक्त है और एआई के वैध उपयोगों को अनुचित रूप से प्रतिबंधित नहीं करता है।"

कानून की वर्तमान स्थिति एक संसदीय समिति द्वारा समीक्षाधीन है, जिसमें आने वाले हफ्तों में आगे की बहस होने की उम्मीद है। इन चर्चाओं का परिणाम यह निर्धारित करेगा कि सरकार डीपफेक और अन्य एआई-जनित सामग्री से जुड़े जोखिमों को प्रभावी ढंग से कम करने में कितनी सक्षम है। अगले चरणों में प्रस्तावित नियमों को परिष्कृत करने और विभिन्न हितधारकों द्वारा उठाई गई चिंताओं को दूर करने के लिए प्रौद्योगिकी कंपनियों और कानूनी विशेषज्ञों के साथ आगे परामर्श शामिल है।