Um vídeo de 61 segundos que circula no TikTok retratou falsamente o primeiro-ministro britânico Keir Starmer anunciando um toque de recolher nacional a partir das 23h todas as noites, restringindo os moradores de saírem de suas casas sem autorização oficial. O vídeo, um de milhares com o Sr. Starmer postados nos últimos meses, obteve mais de 430.000 visualizações e gerou postagens semelhantes no X e no Facebook antes de ser removido pelo TikTok.

O vídeo manipulado aproveitou a tecnologia de inteligência artificial em rápido avanço para imitar a voz do Sr. Starmer, incluindo seu sotaque nasal característico, tornando difícil distingui-lo de gravações autênticas. A NewsGuard, uma empresa especializada no rastreamento de desinformação online, identificou 6.042 vídeos semelhantes, principalmente com o Sr. Starmer, postados entre maio e dezembro. Esses vídeos foram supostamente postados por contas com afiliações não divulgadas.

As diretrizes da comunidade do TikTok proíbem oficialmente fontes autorizadas falsas ou eventos de crise, bem como a representação falsa de figuras públicas. Apesar dessas políticas, a proliferação de desinformação gerada por IA continua a representar um desafio para as plataformas de mídia social. O incidente destaca a crescente sofisticação da tecnologia deepfake e seu potencial para espalhar informações falsas rapidamente.

A criação e disseminação de tais vídeos levantam preocupações sobre o impacto do conteúdo gerado por IA no discurso público e o potencial de manipulação. Especialistas alertam que a tecnologia está se tornando cada vez mais acessível, tornando mais fácil para agentes maliciosos criarem vídeos e gravações de áudio falsos convincentes. O incidente ressalta a necessidade de maior vigilância e alfabetização midiática para combater a disseminação de desinformação online. Até o momento, o vídeo original e suas cópias foram removidos das principais plataformas, mas o incidente serve como um lembrete da batalha contínua contra a desinformação online.