सरकारी अधिकारियों ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स से ग्रोके (Grok) द्वारा उत्पन्न "भयानक" डीपफेक की बढ़ती संख्या पर ध्यान देने की मांग की है, जिसे वे प्लेटफॉर्म का कृत्रिम बुद्धिमत्ता चैटबॉट कहते हैं। चिंता का केंद्र इन एआई-जनित वीडियो और छवियों की गलत सूचना फैलाने और प्रतिष्ठा को नुकसान पहुंचाने की क्षमता है।

सरकार की मांग, जो बुधवार को जारी की गई, एक्स से ग्रोके का उपयोग करके डीपफेक के निर्माण और प्रसार के खिलाफ सख्त सुरक्षा उपाय लागू करने का आह्वान करती है। अधिकारियों ने विशेष रूप से उन उदाहरणों का हवाला दिया जहां ग्रोके का उपयोग सार्वजनिक हस्तियों के यथार्थवादी लेकिन मनगढ़ंत वीडियो बनाने के लिए किया गया था, जिसमें वे झूठे बयान दे रहे थे। उनका तर्क है कि ये डीपफेक सार्वजनिक विमर्श की अखंडता के लिए एक महत्वपूर्ण खतरा हैं और इनका उपयोग चुनावों में हेरफेर करने या हिंसा भड़काने के लिए किया जा सकता है।

संघीय व्यापार आयोग (FTC) के एक प्रवक्ता ने जारी बयान में कहा, "प्रौद्योगिकी उस बिंदु तक आगे बढ़ गई है जहां औसत व्यक्ति के लिए वास्तविक और नकली सामग्री के बीच अंतर करना तेजी से मुश्किल होता जा रहा है।" "एक्स की यह जिम्मेदारी है कि वह यह सुनिश्चित करे कि उसके एआई उपकरणों का उपयोग जनता को धोखा देने और गुमराह करने के लिए नहीं किया जा रहा है।"

ग्रोके, जिसे मस्क की एआई कंपनी xAI ने नवंबर 2023 में लॉन्च किया था, एक बड़ा भाषा मॉडल (LLM) है जिसे एक्स से वास्तविक समय के डेटा का उपयोग करके हास्य और विद्रोही शैली में सवालों के जवाब देने के लिए डिज़ाइन किया गया है। यह वर्तमान में एक्स प्रीमियम+ ग्राहकों के लिए उपलब्ध है। एआई एक मालिकाना आर्किटेक्चर पर बनाया गया है और पाठ और कोड के एक विशाल डेटासेट पर प्रशिक्षित है, जो इसे पाठ उत्पन्न करने, भाषाओं का अनुवाद करने, विभिन्न प्रकार की रचनात्मक सामग्री लिखने और सूचनात्मक तरीके से सवालों के जवाब देने में सक्षम बनाता है। हालांकि, एक्स से वास्तविक समय की जानकारी तक पहुंचने और संसाधित करने की क्षमता, इसकी जनरेटिव क्षमताओं के साथ मिलकर, इसके दुरुपयोग की संभावना के बारे में चिंताएं बढ़ाती है।

यह मुद्दा सोशल मीडिया प्लेटफॉर्म पर एआई-जनित सामग्री को विनियमित करने की बढ़ती चुनौती को उजागर करता है। डीपफेक, परिष्कृत मशीन लर्निंग तकनीकों का उपयोग करके बनाए गए, किसी व्यक्ति की उपस्थिति और आवाज की convincingly नकल कर सकते हैं, जिससे उनकी धोखाधड़ी प्रकृति का पता लगाना मुश्किल हो जाता है। उद्योग एआई नवाचार के लाभों को इसकी संभावित हानियों से बचाने की आवश्यकता के साथ संतुलित करने के तरीके से जूझ रहा है।

एक्स के एक प्रतिनिधि ने एक ईमेल प्रतिक्रिया में कहा, "हम डीपफेक के लिए अपनी पहचान और रोकथाम तंत्र को बेहतर बनाने पर सक्रिय रूप से काम कर रहे हैं।" "हम यह सुनिश्चित करने के लिए प्रतिबद्ध हैं कि एक्स हमारे उपयोगकर्ताओं के लिए एक सुरक्षित और विश्वसनीय मंच बना रहे।" कंपनी ने कहा कि वह विभिन्न तकनीकी समाधानों की खोज कर रही है, जिसमें एआई-जनित सामग्री को वॉटरमार्क करना और सख्त सामग्री मॉडरेशन नीतियों को लागू करना शामिल है।

विशेषज्ञों का कहना है कि प्रभावी डीपफेक डिटेक्शन के लिए एक बहुआयामी दृष्टिकोण की आवश्यकता होती है, जिसमें उन्नत एआई एल्गोरिदम शामिल हैं जो वीडियो और ऑडियो का विश्लेषण करके हेरफेर के संकेतों का पता लगा सकते हैं, साथ ही चिह्नित सामग्री की समीक्षा करने के लिए मानव निरीक्षण भी शामिल है। चुनौती तेजी से विकसित हो रही तकनीक से आगे रहने में निहित है, क्योंकि डीपफेक तकनीकें तेजी से परिष्कृत होती जा रही हैं।

सरकार की मांग एक्स पर इस मुद्दे को संबोधित करने के लिए ठोस कार्रवाई करने का दबाव डालती है। ऐसा करने में विफलता के परिणामस्वरूप नियामक जांच और संभावित कानूनी कार्रवाई हो सकती है। FTC के पास उन कंपनियों की जांच और मुकदमा चलाने का अधिकार है जो भ्रामक या अनुचित प्रथाओं में संलग्न हैं, जिसमें गलत सूचना का प्रसार भी शामिल है। स्थिति अभी भी जारी है, और एक्स द्वारा सरकार की चिंताओं का जवाब देने और नए सुरक्षा उपाय लागू करने के साथ ही आगे के विकास की उम्मीद है।