Распространяющееся в TikTok 61-секундное видео ложно изображает премьер-министра Великобритании Кира Стармера, объявляющего о введении общенационального комендантского часа, начинающегося в 23:00 каждую ночь, ограничивающего жителям возможность покидать свои дома без официального разрешения. Видео, одно из тысяч с участием г-на Стармера, опубликованных за последние месяцы, набрало более 430 000 просмотров и спровоцировало появление аналогичных постов в X и Facebook, прежде чем было удалено TikTok.

В манипулированном видео использовалась быстро развивающаяся технология искусственного интеллекта для имитации голоса г-на Стармера, включая его характерный гнусавый оттенок, что затрудняет его отличие от подлинных записей. NewsGuard, компания, специализирующаяся на отслеживании онлайн-дезинформации, выявила 6042 подобных видео, в основном с участием г-на Стармера, опубликованных в период с мая по декабрь. Сообщается, что эти видео были размещены аккаунтами с нераскрытой принадлежностью.

Правила сообщества TikTok официально запрещают фейковые авторитетные источники или кризисные события, а также ложное изображение общественных деятелей. Несмотря на эту политику, распространение сгенерированной ИИ дезинформации продолжает представлять собой проблему для социальных сетей. Инцидент подчеркивает растущую сложность технологии дипфейков и ее потенциал для быстрого распространения ложной информации.

Создание и распространение таких видео вызывает опасения по поводу влияния сгенерированного ИИ контента на публичный дискурс и возможности манипулирования. Эксперты предупреждают, что эта технология становится все более доступной, что облегчает злоумышленникам создание убедительных фейковых видео- и аудиозаписей. Инцидент подчеркивает необходимость повышения бдительности и медиаграмотности для борьбы с распространением дезинформации в Интернете. На данный момент оригинальное видео и его копии удалены с основных платформ, но инцидент служит напоминанием о продолжающейся борьбе с онлайн-дезинформацией.