सरकारी अधिकारी एलन मस्क के सोशल मीडिया प्लेटफॉर्म X से मांग कर रहे हैं कि वह Grok द्वारा उत्पन्न "भयानक" डीपफेक की बढ़ती संख्या पर ध्यान दे, Grok प्लेटफॉर्म का कृत्रिम बुद्धिमत्ता चैटबॉट है। यह मांग X पर प्रसारित होने वाली यथार्थवादी लेकिन मनगढ़ंत सामग्री में वृद्धि के बाद आई है, जिससे गलत सूचना और व्यक्तियों और संस्थानों को संभावित नुकसान के बारे में चिंताएं बढ़ रही हैं।

सरकार की चिंताएं Grok की अत्यधिक убедительные ऑडियो और वीडियो डीपफेक उत्पन्न करने की क्षमता पर केंद्रित हैं। ये सिंथेटिक मीडिया क्रिएशन वास्तविक लोगों की आवाज़ और दिखावे की नकल कर सकते हैं, जिससे औसत उपयोगकर्ता के लिए उन्हें प्रामाणिक सामग्री से अलग करना मुश्किल हो जाता है। एक सरकारी प्रवक्ता ने कहा, "इन डीपफेक की परिष्कार बहुत परेशान करने वाली है।" "हम यथार्थवाद का एक ऐसा स्तर देख रहे हैं जो जनता को धोखा देना अविश्वसनीय रूप से आसान बनाता है।"

Grok, जिसे मस्क की AI कंपनी xAI द्वारा विकसित किया गया है, एक बड़ा भाषा मॉडल (LLM) है जिसे टेक्स्ट उत्पन्न करने, भाषाओं का अनुवाद करने, विभिन्न प्रकार की रचनात्मक सामग्री लिखने और सूचनात्मक तरीके से सवालों के जवाब देने के लिए डिज़ाइन किया गया है। कुछ अन्य LLM के विपरीत, Grok सीधे X प्लेटफॉर्म में एकीकृत है, जिससे प्रीमियम सदस्यता वाले उपयोगकर्ता सोशल मीडिया वातावरण के भीतर इसकी क्षमताओं तक पहुंच और उपयोग कर सकते हैं। यह एकीकरण, जबकि उपयोगकर्ता अनुभव को बढ़ाने के लिए अभिप्रेत है, अनजाने में डीपफेक बनाने और प्रसारित करने के लिए आसानी से उपलब्ध उपकरण प्रदान करता है।

इस स्थिति का उद्योग पर महत्वपूर्ण प्रभाव पड़ता है। AI नैतिकतावादियों और प्रौद्योगिकी विशेषज्ञों ने लंबे समय से Grok जैसी जेनरेटिव AI तकनीकों के दुरुपयोग की संभावना के बारे में चेतावनी दी है। X पर वर्तमान स्थिति नवाचार को जिम्मेदार तैनाती के साथ संतुलित करने की चुनौतियों को उजागर करती है। एक प्रमुख AI शोधकर्ता डॉ. अन्या शर्मा ने कहा, "यह पूरे उद्योग के लिए एक वेक-अप कॉल है।" "हमें डीपफेक के प्रसार से निपटने के लिए मजबूत सुरक्षा उपाय और पहचान तंत्र विकसित करने की आवश्यकता है, इससे पहले कि वे अपूरणीय क्षति का कारण बनें।"

X ने सरकार की मांगों का जवाब देते हुए कहा है कि वह अपनी डीपफेक पहचान क्षमताओं में सुधार करने और सख्त सामग्री मॉडरेशन नीतियां लागू करने पर सक्रिय रूप से काम कर रहा है। कंपनी का दावा है कि वह सिंथेटिक मीडिया की पहचान करने और उसे चिह्नित करने के लिए डिज़ाइन किए गए उन्नत AI एल्गोरिदम में निवेश कर रही है। X द्वारा जारी एक बयान में कहा गया है, "हम अपने प्लेटफॉर्म की अखंडता सुनिश्चित करने और हानिकारक गलत सूचना के प्रसार को रोकने के लिए प्रतिबद्ध हैं।" हालांकि, आलोचकों का तर्क है कि X के प्रयास अपर्याप्त रहे हैं और प्लेटफॉर्म को डीपफेक के निर्माण और वितरण को रोकने के लिए और अधिक निर्णायक कार्रवाई करने की आवश्यकता है।

वर्तमान स्थिति यह है कि सरकार और X के बीच चर्चा जारी है। खबरों के मुताबिक, अगर X समस्या का पर्याप्त समाधान करने में विफल रहता है तो सरकार नियामक उपायों पर विचार कर रही है। अगली घटनाओं में X द्वारा अद्यतन सामग्री मॉडरेशन नीतियों की रिहाई और संभावित रूप से AI-जनित सामग्री के उपयोग को विनियमित करने के उद्देश्य से नए कानून की शुरुआत शामिल होने की उम्मीद है। स्थिति तेजी से आगे बढ़ रही AI तकनीकों से जुड़े जोखिमों के प्रबंधन के लिए एक व्यापक दृष्टिकोण की तत्काल आवश्यकता को रेखांकित करती है।