Les scènes générées par l'IA sont entrecoupées d'extraits vidéo authentiques de Crockett faisant l'éloge de Cornyn et de reportages sur Cornyn parlant favorablement d'elle. Les arrière-plans des vidéos fabriquées comprennent une salle de danse texane et le Capitole des États-Unis. Cet incident marque une évolution significative de l'utilisation de l'IA dans les campagnes politiques, soulevant des inquiétudes quant au potentiel de désinformation et de manipulation des électeurs.

La publicité met en évidence l'accessibilité croissante de la technologie de l'IA capable de créer des scénarios réalistes, mais entièrement fabriqués. Les modèles d'IA générative, comme ceux probablement utilisés pour créer la vidéo, utilisent des algorithmes pour apprendre des modèles à partir de données existantes, puis génèrent de nouveaux contenus qui imitent ces modèles. Dans ce cas, l'IA a probablement analysé des images et des vidéos de Cornyn et Crockett pour créer des avatars numériques réalistes capables d'exécuter les danses représentées dans la publicité.

Paxton n'est pas le premier politicien à utiliser l'IA dans des vidéos de campagne ; Andrew Cuomo avait déjà utilisé des techniques similaires. Cependant, la sophistication et le réalisme croissants du contenu généré par l'IA soulèvent des inquiétudes quant au potentiel de cette technologie à tromper les électeurs et à déformer le paysage politique. L'utilisation de deepfakes, une forme plus avancée de contenu généré par l'IA, pourrait encore exacerber ces problèmes. Les deepfakes utilisent l'IA pour remplacer de manière convaincante le visage d'une personne par le corps d'une autre, ou pour manipuler l'audio et la vidéo afin de faire croire que quelqu'un a dit ou fait quelque chose qu'il n'a jamais dit ou fait.

L'émergence de la publicité politique générée par l'IA soulève des questions éthiques et juridiques complexes. Actuellement, les réglementations concernant l'utilisation de l'IA dans les campagnes politiques sont limitées, ce qui laisse la porte ouverte à une utilisation abusive généralisée. Les experts suggèrent que des directives et des réglementations claires sont nécessaires pour garantir la transparence et empêcher la diffusion de fausses informations. Cela comprend l'obligation d'inclure des avertissements sur le contenu généré par l'IA et la mise en place de mécanismes de vérification de l'authenticité des publicités politiques. L'incident au Texas souligne le besoin urgent d'un débat public et d'une élaboration de politiques pour relever les défis posés par l'IA dans l'arène politique.