Une publicité diffusée vendredi par le procureur général du Texas, Ken Paxton, candidat républicain au Sénat, présentait des scènes fabriquées numériquement montrant le sénateur John Cornyn, un républicain que Paxton défie, dansant avec la représentante Jasmine Crockett, une démocrate également candidate au Sénat. La publicité, destinée à souligner un alignement politique perçu entre Cornyn et Crockett, a utilisé l'intelligence artificielle pour créer cette fausse représentation, mettant en scène ce qui semblait être une salle de danse texane et le Capitole américain en arrière-plan.

La vidéo générée par l'IA entrecoupait les clips de danse fabriqués avec d'authentiques vidéos de Crockett faisant l'éloge de Cornyn, ainsi que des reportages où Cornyn parlait favorablement d'elle. Cette tactique, selon les analystes politiques, visait à créer un récit de collaboration et d'idéologie partagée entre les deux candidats, malgré leurs affiliations partisanes différentes.

L'utilisation de l'IA dans la publicité politique soulève d'importantes préoccupations quant au potentiel de désinformation et de manipulation lors des élections. La capacité de l'IA à générer un contenu réaliste mais entièrement fabriqué, souvent appelé "deepfakes", met à l'épreuve la capacité des électeurs à distinguer le vrai du faux. Les experts avertissent que de telles technologies pourraient éroder la confiance dans les institutions politiques et le processus électoral.

"L'émergence de publicités politiques basées sur l'IA marque une nouvelle frontière dans les tactiques de campagne", a déclaré le Dr Emily Carter, professeure de sciences politiques à l'Université du Texas. "Alors que les publicités politiques ont toujours été soumises à un examen minutieux de leur exactitude, la facilité avec laquelle l'IA peut créer des scénarios convaincants mais faux nécessite de renouveler l'attention portée à la culture médiatique et aux compétences de pensée critique chez les électeurs."

La technologie derrière ces vidéos générées par l'IA implique généralement des algorithmes sophistiqués qui analysent de grandes quantités de données visuelles et audio pour créer des simulations réalistes d'individus. Les réseaux antagonistes génératifs (GAN), un type de modèle d'apprentissage automatique, sont souvent utilisés pour produire ces deepfakes. Les GAN impliquent deux réseaux neuronaux, un générateur et un discriminateur, qui s'affrontent pour créer un contenu faux de plus en plus réaliste.

Ce n'est pas la première fois qu'un candidat de premier plan utilise l'IA dans des vidéos de campagne ; Andrew M. Cuomo avait déjà employé des tactiques similaires. Cependant, l'accessibilité et la sophistication croissantes des outils d'IA suggèrent que de tels cas sont susceptibles de devenir plus fréquents lors des prochaines élections.

La publicité a suscité un débat sur la nécessité d'une réglementation de l'IA dans la publicité politique. Certains soutiennent que les lois existantes concernant la publicité mensongère pourraient ne pas suffire à relever les défis uniques posés par le contenu généré par l'IA. D'autres préconisent des réglementations plus strictes, notamment des avertissements obligatoires indiquant quand l'IA a été utilisée pour créer ou modifier du contenu.

Lundi, la campagne du sénateur Cornyn n'avait pas publié de réponse officielle à la publicité. La campagne de la représentante Crockett a publié une déclaration condamnant l'utilisation de l'IA pour créer un contenu trompeur, la qualifiant de "précédent dangereux" pour les élections futures. La Commission d'éthique du Texas examine actuellement la publicité afin de déterminer si elle viole les lois de l'État.