Um anúncio divulgado na sexta-feira pelo procurador-geral do Texas, Ken Paxton, um candidato republicano ao Senado, apresentou cenas fabricadas digitalmente do senador John Cornyn, um republicano que Paxton está desafiando, dançando com a representante Jasmine Crockett, uma democrata também concorrendo ao Senado. O anúncio, com o objetivo de destacar o alinhamento político percebido entre Cornyn e Crockett, utilizou inteligência artificial para criar a representação falsa, mostrando o que parecia ser um salão de dança do Texas e o Capitólio dos EUA como pano de fundo.

O vídeo gerado por IA intercalou os clipes de dança fabricados com vídeos genuínos de Crockett elogiando Cornyn, bem como reportagens de Cornyn falando favoravelmente sobre ela. Essa tática, de acordo com analistas políticos, visava criar uma narrativa de colaboração e ideologia compartilhada entre os dois candidatos, apesar de suas diferentes filiações partidárias.

O uso de IA em publicidade política levanta preocupações significativas sobre o potencial de desinformação e manipulação nas eleições. A capacidade da IA de gerar conteúdo realista, mas totalmente fabricado, muitas vezes referido como "deepfakes", representa um desafio à capacidade dos eleitores de discernir fato de ficção. Especialistas alertam que tais tecnologias podem corroer a confiança nas instituições políticas e no processo eleitoral.

"O surgimento de anúncios políticos alimentados por IA marca uma nova fronteira nas táticas de campanha", disse a Dra. Emily Carter, professora de ciência política da Universidade do Texas. "Embora os anúncios políticos sempre tenham sido sujeitos a escrutínio quanto à precisão, a facilidade com que a IA pode criar cenários convincentes, mas falsos, exige um foco renovado na alfabetização midiática e nas habilidades de pensamento crítico entre os eleitores."

A tecnologia por trás desses vídeos gerados por IA normalmente envolve algoritmos sofisticados que analisam vastas quantidades de dados visuais e de áudio para criar simulações realistas de indivíduos. Redes generativas adversariais (GANs), um tipo de modelo de aprendizado de máquina, são frequentemente empregadas para produzir esses deepfakes. As GANs envolvem duas redes neurais, um gerador e um discriminador, que competem entre si para criar conteúdo falso cada vez mais realista.

Esta não é a primeira vez que um candidato de alto nível utiliza IA em vídeos de campanha; Andrew M. Cuomo já empregou táticas semelhantes. No entanto, a crescente acessibilidade e sofisticação das ferramentas de IA sugerem que tais casos provavelmente se tornarão mais prevalentes em futuras eleições.

O anúncio gerou um debate sobre a necessidade de regulamentação da IA na publicidade política. Alguns argumentam que as leis existentes sobre publicidade enganosa podem não ser suficientes para enfrentar os desafios únicos representados pelo conteúdo gerado por IA. Outros defendem regulamentações mais rigorosas, incluindo avisos obrigatórios indicando quando a IA foi usada para criar ou alterar o conteúdo.

Até segunda-feira, a campanha do senador Cornyn não havia emitido uma resposta formal ao anúncio. A campanha da representante Crockett divulgou uma declaração condenando o uso de IA para criar conteúdo enganoso, chamando-o de "precedente perigoso" para futuras eleições. A Comissão de Ética do Texas está atualmente revisando o anúncio para determinar se ele viola alguma lei estadual.