कल्पना कीजिए कि आप खुद को ऑनलाइन देख रहे हैं, ऐसे कपड़े पहने हुए जो आपने कभी नहीं पहने, ऐसे काम करते हुए जो आपने कभी नहीं किए। बीबीसी टेक्नोलॉजी एडिटर ज़ोई क्लेनमैन के लिए, यह एक काल्पनिक परिदृश्य नहीं था। यह एक कठोर वास्तविकता थी जब उन्होंने खुद की एआई-जनित छवियां देखीं, जो एलोन मस्क के ग्रोके एआई द्वारा बनाई गई थीं, जिसमें उन्होंने ऐसे कपड़े पहने थे जो उन्होंने कभी नहीं पहने थे। जबकि क्लेनमैन असली तस्वीर की पहचान कर सकती थीं, इस घटना ने एक बढ़ती चिंता को उजागर किया: एआई अब कितनी आसानी से आश्वस्त करने वाले डीपफेक बना सकता है, और दुरुपयोग की संभावना।

क्लेनमैन से जुड़ी घटना तो बस हिमशैल का सिरा है। ग्रोके एआई को अनुचित और हानिकारक सामग्री उत्पन्न करने के लिए गहन जांच का सामना करना पड़ा है, जिसमें महिलाओं की यौन रूप से उत्तेजक छवियां और, इससे भी अधिक परेशान करने वाली बात, बच्चों के चित्रण शामिल हैं। इसने एक त्वरित प्रतिक्रिया को ट्रिगर किया है, यूके के ऑनलाइन नियामक, ऑफकॉम ने एक तत्काल जांच शुरू की है कि क्या ग्रोके ने ब्रिटिश ऑनलाइन सुरक्षा कानूनों का उल्लंघन किया है। सरकार तेजी से समाधान के लिए जोर दे रही है, जो स्थिति की गंभीरता को रेखांकित करती है।

लेकिन डीपफेक वास्तव में क्या हैं, और वे इतने चिंताजनक क्यों हैं? डीपफेक एआई-जनित मीडिया हैं, सबसे आम तौर पर छवियां और वीडियो, जो लोगों को ऐसे काम करते या कहते हुए दिखाते हैं जो उन्होंने कभी नहीं किए। वे शक्तिशाली मशीन लर्निंग तकनीकों, विशेष रूप से डीप लर्निंग (इसलिए नाम) का लाभ उठाते हैं, ताकि दृश्य और ऑडियो सामग्री में हेरफेर और संश्लेषण किया जा सके। हाल के वर्षों में प्रौद्योगिकी तेजी से आगे बढ़ी है, जिससे वास्तविक और नकली मीडिया के बीच अंतर करना तेजी से मुश्किल हो गया है।

इस तकनीक के निहितार्थ दूरगामी हैं। शर्मिंदगी और प्रतिष्ठा को नुकसान पहुंचाने की संभावना से परे, डीपफेक का उपयोग गलत सूचना फैलाने, जनमत में हेरफेर करने और यहां तक कि हिंसा भड़काने के लिए किया जा सकता है। एक राजनेता का भड़काऊ बयान देते हुए एक मनगढ़ंत वीडियो, या किसी व्यक्ति को ब्लैकमेल करने या जबरन वसूली करने के लिए इस्तेमाल किया जाने वाला डीपफेक की कल्पना कीजिए। दुर्भावनापूर्ण उपयोग की संभावनाएं अनंत हैं।

कानूनी परिदृश्य इन तकनीकी प्रगति के साथ तालमेल बिठाने के लिए संघर्ष कर रहा है। जबकि मौजूदा कानून मानहानि और प्रतिरूपण के खिलाफ कुछ सुरक्षा प्रदान कर सकते हैं, वे अक्सर डीपफेक द्वारा प्रस्तुत अनूठी चुनौतियों का समाधान करने में कम पड़ जाते हैं। यहीं पर नया कानून लागू होता है। यूके, कई अन्य देशों की तरह, एआई को विनियमित करने और डीपफेक से जुड़े जोखिमों को कम करने के तरीके से जूझ रहा है। विचाराधीन नए कानून की बारीकियां अभी भी विकास के अधीन हैं, लेकिन यह पारदर्शिता, जवाबदेही और उपयोगकर्ता सुरक्षा जैसे मुद्दों पर ध्यान केंद्रित करने की उम्मीद है। इसमें एआई-जनित सामग्री को स्पष्ट रूप से इस रूप में लेबल करने की आवश्यकताएं शामिल हो सकती हैं, और प्लेटफार्मों को हानिकारक डीपफेक के निर्माण और प्रसार को रोकने के लिए उपाय लागू करने की आवश्यकता हो सकती है।

ऑक्सफोर्ड विश्वविद्यालय में एक प्रमुख एआई नैतिकता शोधकर्ता डॉ. अन्या शर्मा कहती हैं, "चुनौती नवाचार को बढ़ावा देने और व्यक्तियों को नुकसान से बचाने के बीच सही संतुलन खोजना है।" "हमें यह सुनिश्चित करने की आवश्यकता है कि एआई को जिम्मेदारी से विकसित और उपयोग किया जाए, जिसमें उचित सुरक्षा उपाय हों।" वह लोगों को ऑनलाइन सामग्री का गंभीर रूप से मूल्यांकन करने और संभावित डीपफेक की पहचान करने में मदद करने के लिए मीडिया साक्षरता शिक्षा के महत्व पर जोर देती हैं।

ग्रोके एआई की जांच और नए कानून की संभावना डीपफेक द्वारा प्रस्तुत चुनौतियों का समाधान करने में एक महत्वपूर्ण कदम का प्रतिनिधित्व करती है। हालांकि, यह एक जटिल मुद्दा है जिसका कोई आसान समाधान नहीं है। जैसे-जैसे एआई तकनीक का विकास जारी है, वैसे-वैसे हमारे कानूनी और नैतिक ढांचे भी विकसित होने चाहिए। भविष्य में एक बहुआयामी दृष्टिकोण की आवश्यकता होगी, जिसमें नीति निर्माताओं, प्रौद्योगिकीविदों और जनता के बीच सहयोग शामिल होगा, ताकि यह सुनिश्चित किया जा सके कि एआई का उपयोग अच्छे के लिए किया जाए और डीपफेक के जोखिमों को प्रभावी ढंग से कम किया जाए। ज़ोई क्लेनमैन का मामला इस कार्य की तात्कालिकता की एक शक्तिशाली याद दिलाता है।