डाउनिंग स्ट्रीट स्थित 10 डाउनिंग स्ट्रीट ने उन खबरों पर सहमति जताई है जिनमें कहा गया है कि X, जिसे पहले ट्विटर के नाम से जाना जाता था, अपने Grok AI मॉडल का उपयोग करके बनाए गए डीपफेक के मुद्दे को हल करने के लिए कदम उठा रहा है। प्रधानमंत्री कार्यालय ने AI-जनित सामग्री के दुरुपयोग की संभावना को स्वीकार किया और इस बात पर जोर दिया कि प्लेटफ़ॉर्म को जोखिमों को कम करने की जिम्मेदारी लेनी चाहिए।

डीपफेक, "डीप लर्निंग" और "फेक" शब्दों का मिश्रण है, जो सिंथेटिक मीडिया है जिसमें किसी मौजूदा छवि या वीडियो में किसी व्यक्ति को किसी अन्य व्यक्ति की समानता से बदल दिया जाता है। यह तकनीक परिष्कृत कृत्रिम बुद्धिमत्ता, विशेष रूप से डीप लर्निंग एल्गोरिदम का लाभ उठाकर अत्यधिक यथार्थवादी, फिर भी मनगढ़ंत सामग्री बनाती है। चिंता यह है कि इन डीपफेक का उपयोग गलत सूचना फैलाने, जनमत कोmanipulate करने और प्रतिष्ठा को नुकसान पहुंचाने के लिए किया जा सकता है।

Grok, X का AI मॉडल, OpenAI के GPT मॉडल और Google के Gemini के समान एक बड़ा भाषा मॉडल (LLM) है। LLM को टेक्स्ट और कोड के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे मानव-गुणवत्ता वाला टेक्स्ट उत्पन्न करने, भाषाओं का अनुवाद करने, विभिन्न प्रकार की रचनात्मक सामग्री लिखने और आपके सवालों का जानकारीपूर्ण तरीके से जवाब देने में सक्षम होते हैं। हालाँकि, वही क्षमताएँ जो LLM को उपयोगी बनाती हैं, उनका उपयोग दुर्भावनापूर्ण सामग्री, जिसमें डीपफेक भी शामिल हैं, बनाने के लिए भी किया जा सकता है।

Grok-जनित डीपफेक का मुकाबला करने के लिए X के विशिष्ट उपायों का विवरण सीमित रहने के बावजूद, उद्योग विश्लेषकों का अनुमान है कि प्लेटफ़ॉर्म AI-जनित सामग्री को वॉटरमार्क करने, डीपफेक का पता लगाने के लिए एल्गोरिदम विकसित करने और भ्रामक सिंथेटिक मीडिया के निर्माण और प्रसार के खिलाफ स्पष्ट नीतियां स्थापित करने जैसी तकनीकों को लागू कर सकता है। वॉटरमार्किंग में उत्पन्न सामग्री में एक सूक्ष्म, अक्सर अदृश्य, मार्कर एम्बेड करना शामिल है जो इसे AI-जनित के रूप में पहचानता है। डिटेक्शन एल्गोरिदम चेहरे की विशेषताओं में विसंगतियों या अप्राकृतिक गतिविधियों जैसे हेरफेर के संकेतों के लिए मीडिया का विश्लेषण करते हैं।

डीपफेक का प्रसार सूचना पारिस्थितिकी तंत्र के लिए एक महत्वपूर्ण चुनौती है। विशेषज्ञों का मानना है कि इन प्रौद्योगिकियों की बढ़ती परिष्कार वास्तविक और नकली सामग्री के बीच अंतर करना कठिन बना देती है, जिससे मीडिया और संस्थानों में विश्वास कम होने की संभावना है। यूके सरकार AI के लिए नियामक ढांचे की सक्रिय रूप से खोज कर रही है, जिसमें प्रौद्योगिकी के जिम्मेदार विकास और तैनाती को सुनिश्चित करने पर ध्यान केंद्रित किया गया है।

डीपफेक को संबोधित करने के लिए X द्वारा उठाया गया कदम टेक उद्योग में एक व्यापक प्रवृत्ति के अनुरूप है, जहाँ कंपनियाँ AI के नैतिक और सामाजिक निहितार्थों से जूझ रही हैं। Meta और Google सहित अन्य प्रमुख प्लेटफ़ॉर्म ने भी डीपफेक और AI-जनित गलत सूचना के अन्य रूपों के प्रसार का मुकाबला करने के लिए पहल की घोषणा की है।

डाउनिंग स्ट्रीट के एक प्रवक्ता द्वारा जारी एक बयान के अनुसार, सरकार Grok डीपफेक को संबोधित करने में X की प्रगति की बारीकी से निगरानी करेगी और प्लेटफ़ॉर्म से इस तकनीक के संभावित नुकसान से उपयोगकर्ताओं की रक्षा के लिए सक्रिय कदम उठाने की उम्मीद करती है। X के प्रयासों पर आगे के अपडेट आने वाले हफ्तों में अपेक्षित हैं।