Imágenes generadas por IA de Nicolás Maduro inundaron las redes sociales el sábado. Las imágenes mostraban al depuesto presidente de Venezuela bajo custodia. Esto ocurrió apenas horas después de que surgieran informes falsos de su arresto por fuerzas estadounidenses.

Las imágenes fabricadas mostraban a Maduro esposado y rodeado de fuerzas del orden. Los expertos creen que las imágenes fueron creadas con herramientas de IA. Esto marca un desarrollo preocupante en el potencial de la IA para la desinformación.

Roberta Braga, del Digital Democracy Institute of the Americas, señaló el volumen sin precedentes de imágenes generadas por IA que representan un supuesto evento en tiempo real. Los principales generadores de imágenes de IA tienen políticas en contra de la creación de contenido engañoso, incluidas imágenes falsas de figuras públicas. Sin embargo, estas salvaguardias resultaron insuficientes. La herramienta de IA exacta utilizada sigue sin confirmarse.

La generación de imágenes por IA ha avanzado rápidamente. Este incidente destaca el desafío de controlar su uso indebido. La difusión de estas imágenes plantea serias preguntas sobre el futuro de la integridad de la información en línea.

Se espera un mayor escrutinio de las plataformas de generación de imágenes por IA. Se está llevando a cabo una investigación más profunda sobre la fuente de las imágenes. Es probable que el incidente alimente el debate sobre regulaciones más estrictas sobre la creación de contenido de IA.