Un video de 61 segundos que circula en TikTok representó falsamente al Primer Ministro británico Keir Starmer anunciando un toque de queda nacional a partir de las 11 p.m. todas las noches, restringiendo a los residentes salir de sus casas sin autorización oficial. El video, uno de los miles que presentan al Sr. Starmer publicados en los últimos meses, obtuvo más de 430,000 visitas e impulsó publicaciones similares en X y Facebook antes de ser retirado por TikTok.

El video manipulado aprovechó la tecnología de inteligencia artificial de rápido avance para imitar la voz del Sr. Starmer, incluyendo su distintivo tono nasal, lo que dificulta distinguirlo de las grabaciones auténticas. NewsGuard, una empresa especializada en el rastreo de desinformación en línea, identificó 6,042 videos similares, principalmente con el Sr. Starmer, publicados entre mayo y diciembre. Según los informes, estos videos fueron publicados por cuentas con afiliaciones no reveladas.

Las normas comunitarias de TikTok prohíben oficialmente las fuentes autorizadas falsas o los eventos de crisis, así como la representación falsa de figuras públicas. A pesar de estas políticas, la proliferación de desinformación generada por IA sigue representando un desafío para las plataformas de redes sociales. El incidente destaca la creciente sofisticación de la tecnología deepfake y su potencial para difundir información falsa rápidamente.

La creación y difusión de tales videos plantea preocupaciones sobre el impacto del contenido generado por IA en el discurso público y el potencial de manipulación. Los expertos advierten que la tecnología se está volviendo cada vez más accesible, lo que facilita a los actores maliciosos la creación de videos y grabaciones de audio falsos convincentes. El incidente subraya la necesidad de una mayor vigilancia y alfabetización mediática para combatir la propagación de la desinformación en línea. Hasta ahora, el video original y sus copias han sido eliminados de las principales plataformas, pero el incidente sirve como un recordatorio de la batalla en curso contra la desinformación en línea.