Imagens de Nicolás Maduro geradas por IA inundaram as redes sociais no sábado. As imagens mostravam o presidente deposto da Venezuela sob custódia. Isso ocorreu apenas horas depois de surgirem notícias falsas de sua prisão por forças dos EUA.
As imagens fabricadas mostravam Maduro algemado e cercado por autoridades policiais. Especialistas acreditam que ferramentas de IA criaram as imagens. Isso marca um desenvolvimento preocupante no potencial da IA para desinformação.
Roberta Braga, do Digital Democracy Institute of the Americas, observou o volume sem precedentes de imagens geradas por IA retratando um suposto evento em tempo real. Os principais geradores de imagens de IA têm políticas contra a criação de conteúdo enganoso, incluindo imagens falsas de figuras públicas. No entanto, essas salvaguardas provaram ser insuficientes. A ferramenta de IA exata utilizada permanece não confirmada.
A geração de imagens por IA avançou rapidamente. Este incidente destaca o desafio de controlar seu uso indevido. A disseminação dessas imagens levanta sérias questões sobre o futuro da integridade da informação online.
Espera-se um escrutínio maior das plataformas de geração de imagens por IA. Uma investigação mais aprofundada sobre a fonte das imagens está em andamento. O incidente provavelmente alimentará o debate sobre regulamentações mais rígidas sobre a criação de conteúdo de IA.
Discussion
Join the conversation
Be the first to comment