टिकटॉक पर प्रसारित हो रहा 61 सेकंड का एक वीडियो झूठा चित्रण करता है कि ब्रिटिश प्रधान मंत्री कीर स्टारमर ने रात 11 बजे से शुरू होने वाले देशव्यापी कर्फ्यू की घोषणा की है, जो निवासियों को आधिकारिक प्राधिकरण के बिना अपने घरों से निकलने से प्रतिबंधित करता है। श्री स्टारमर की विशेषता वाले हाल के महीनों में पोस्ट किए गए हजारों वीडियो में से एक, इस वीडियो को 430,000 से अधिक बार देखा गया और टिकटॉक द्वारा हटाए जाने से पहले X और फेसबुक पर इसी तरह की पोस्ट को बढ़ावा मिला।

हेरफेर किए गए वीडियो ने श्री स्टारमर की आवाज की नकल करने के लिए तेजी से आगे बढ़ रही कृत्रिम बुद्धिमत्ता तकनीक का लाभ उठाया, जिसमें उनकी विशिष्ट नासिका लय भी शामिल है, जिससे इसे प्रामाणिक रिकॉर्डिंग से अलग करना मुश्किल हो गया। न्यूज़गार्ड, ऑनलाइन गलत सूचना को ट्रैक करने में विशेषज्ञता वाली एक कंपनी ने मई और दिसंबर के बीच पोस्ट किए गए 6,042 समान वीडियो की पहचान की, जिसमें मुख्य रूप से श्री स्टारमर शामिल थे। कथित तौर पर ये वीडियो अघोषित संबद्धता वाले खातों द्वारा पोस्ट किए गए थे।

टिकटॉक के सामुदायिक दिशानिर्देश आधिकारिक तौर पर नकली आधिकारिक स्रोतों या संकट की घटनाओं, साथ ही सार्वजनिक हस्तियों के झूठे चित्रण को प्रतिबंधित करते हैं। इन नीतियों के बावजूद, एआई-जनित गलत सूचना का प्रसार सोशल मीडिया प्लेटफॉर्म के लिए एक चुनौती बना हुआ है। यह घटना डीपफेक तकनीक की बढ़ती परिष्कार और गलत जानकारी को तेजी से फैलाने की इसकी क्षमता पर प्रकाश डालती है।

इस तरह के वीडियो का निर्माण और प्रसार सार्वजनिक विमर्श पर एआई-जनित सामग्री के प्रभाव और हेरफेर की क्षमता के बारे में चिंताएं बढ़ाता है। विशेषज्ञों का चेतावनी है कि यह तकनीक तेजी से सुलभ होती जा रही है, जिससे दुर्भावनापूर्ण अभिनेताओं के लिए आश्वस्त करने वाले नकली वीडियो और ऑडियो रिकॉर्डिंग बनाना आसान हो गया है। यह घटना ऑनलाइन गलत सूचना के प्रसार का मुकाबला करने के लिए बढ़ी हुई सतर्कता और मीडिया साक्षरता की आवश्यकता को रेखांकित करती है। फिलहाल, मूल वीडियो और उसकी प्रतियां प्रमुख प्लेटफार्मों से हटा दी गई हैं, लेकिन यह घटना ऑनलाइन दुष्प्रचार के खिलाफ चल रही लड़ाई की याद दिलाती है।