As cenas geradas por IA são intercaladas com clipes de vídeo reais de Crockett elogiando Cornyn e reportagens de Cornyn falando favoravelmente sobre ela. Os cenários nos vídeos fabricados incluem um salão de dança do Texas e o Capitólio dos EUA. Este incidente marca um desenvolvimento significativo no uso da IA em campanhas políticas, levantando preocupações sobre o potencial de desinformação e a manipulação de eleitores.

O anúncio destaca a crescente acessibilidade da tecnologia de IA capaz de criar cenários realistas, mas totalmente fabricados. Modelos de IA generativa, como os provavelmente usados para criar o vídeo, empregam algoritmos para aprender padrões de dados existentes e, em seguida, gerar novos conteúdos que imitam esses padrões. Neste caso, a IA provavelmente analisou imagens e vídeos de Cornyn e Crockett para criar avatares digitais realistas capazes de realizar as danças retratadas no anúncio.

Paxton não é o primeiro político a usar IA em vídeos de campanha; Andrew Cuomo já usou técnicas semelhantes. No entanto, a crescente sofisticação e realismo do conteúdo gerado por IA levantam preocupações sobre o potencial de tal tecnologia para enganar os eleitores e distorcer o cenário político. O uso de deepfakes, uma forma mais avançada de conteúdo gerado por IA, poderia exacerbar ainda mais essas questões. Deepfakes usam IA para trocar de forma convincente o rosto de uma pessoa no corpo de outra, ou para manipular áudio e vídeo para fazer parecer que alguém disse ou fez algo que nunca fez.

O surgimento de publicidade política gerada por IA levanta questões éticas e legais complexas. Atualmente, as regulamentações em torno do uso de IA em campanhas políticas são limitadas, deixando em aberto a possibilidade de uso indevido generalizado. Especialistas sugerem que diretrizes e regulamentações claras são necessárias para garantir a transparência e evitar a disseminação de desinformação. Isso inclui exigir avisos legais sobre conteúdo gerado por IA e estabelecer mecanismos para verificar a autenticidade de anúncios políticos. O incidente no Texas ressalta a necessidade urgente de discurso público e desenvolvimento de políticas para enfrentar os desafios colocados pela IA na arena política.