انتشر مقطع فيديو مدته 61 ثانية على تطبيق TikTok يصور بشكل زائف رئيس الوزراء البريطاني كير ستارمر وهو يعلن عن حظر تجول على مستوى البلاد يبدأ في الساعة 11 مساءً كل ليلة، ويمنع السكان من مغادرة منازلهم دون تصريح رسمي. حصد الفيديو، وهو واحد من آلاف الفيديوهات التي ظهرت فيها صور السيد ستارمر في الأشهر الأخيرة، أكثر من 430,000 مشاهدة وأثار منشورات مماثلة على X وفيسبوك قبل أن تحذفه TikTok.

استغل الفيديو الذي تم التلاعب به تقنية الذكاء الاصطناعي سريعة التطور لتقليد صوت السيد ستارمر، بما في ذلك لكنته الأنفية المميزة، مما جعل التمييز بينه وبين التسجيلات الأصلية أمرًا صعبًا. حددت NewsGuard، وهي شركة متخصصة في تتبع المعلومات المضللة عبر الإنترنت، 6,042 مقطع فيديو مماثل، يظهر فيها السيد ستارمر بشكل أساسي، تم نشرها بين شهري مايو وديسمبر. ورد أن هذه الفيديوهات تم نشرها بواسطة حسابات ذات انتماءات غير معلنة.

تحظر إرشادات مجتمع TikTok رسميًا المصادر الموثوقة المزيفة أو الأحداث المأساوية، بالإضافة إلى التصوير الكاذب للشخصيات العامة. على الرغم من هذه السياسات، لا يزال انتشار المعلومات المضللة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي يمثل تحديًا لمنصات التواصل الاجتماعي. يسلط الحادث الضوء على التطور المتزايد لتقنية التزييف العميق وإمكاناتها في نشر معلومات كاذبة بسرعة.

يثير إنشاء ونشر مثل هذه الفيديوهات مخاوف بشأن تأثير المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي على الخطاب العام واحتمال التلاعب. يحذر الخبراء من أن التكنولوجيا أصبحت في متناول الجميع بشكل متزايد، مما يسهل على الجهات الخبيثة إنشاء فيديوهات وتسجيلات صوتية مزيفة مقنعة. يؤكد الحادث على الحاجة إلى مزيد من اليقظة والإلمام الإعلامي لمكافحة انتشار المعلومات المضللة عبر الإنترنت. حتى الآن، تمت إزالة الفيديو الأصلي ونسخه من المنصات الرئيسية، لكن الحادث بمثابة تذكير بالمعركة المستمرة ضد التضليل عبر الإنترنت.