共和党の上院議員候補であるケン・パクストン テキサス州司法長官が金曜日に公開した広告は、パクストン氏が挑戦している共和党のジョン・コーニン上院議員と、同じく上院議員に立候補している民主党のジャスミン・クロケット下院議員が踊っている様子をデジタルで捏造した場面をフィーチャーした。この広告は、コーニン氏とクロケット氏の間に認識されている政治的連携を強調することを意図しており、人工知能を利用して虚偽の描写を作成し、テキサスのダンスホールと米国議会議事堂を背景に見せかけた。

AIが生成したビデオは、捏造されたダンスのクリップを、クロケット氏がコーニン氏を称賛する本物のビデオや、コーニン氏が彼女について好意的に語るニュース報道と交互に挿入した。政治アナリストによると、この戦術は、両候補の党派が異なるにもかかわらず、両者の協力関係と共通のイデオロギーの物語を作り出すことを目的としている。

政治広告におけるAIの使用は、選挙における誤った情報と操作の可能性について重大な懸念を引き起こしている。AIは、現実的でありながら完全に捏造されたコンテンツ（しばしば「ディープフェイク」と呼ばれる）を生成する能力により、有権者が事実と虚構を見分ける能力に課題を突き付けている。専門家は、このような技術が政治機関と選挙プロセスへの信頼を損なう可能性があると警告している。

テキサス大学の政治学教授であるエミリー・カーター博士は、「AIを活用した政治広告の出現は、選挙戦術における新たなフロンティアを意味する」と述べた。「政治広告は常に正確性について精査の対象となってきたが、AIが説得力のある虚偽のシナリオをいとも簡単に作成できるようになったことで、有権者の間でメディアリテラシーと批判的思考スキルに改めて焦点を当てる必要性が生じている。」

これらのAI生成ビデオの背後にある技術は通常、膨大な量の視覚および音声データを分析して個人の現実的なシミュレーションを作成する高度なアルゴリズムを伴う。敵対的生成ネットワーク（GAN）は、機械学習モデルの一種であり、これらのディープフェイクを作成するためによく使用される。GANは、ますます現実的な偽のコンテンツを作成するために互いに対抗する2つのニューラルネットワーク（ジェネレーターとディスクリミネーター）を含む。

著名な候補者が選挙キャンペーンビデオでAIを利用したのはこれが初めてではない。アンドリュー・M・クオモも以前に同様の戦術を採用した。しかし、AIツールのアクセシビリティと洗練度が高まっていることから、このような事例は今後の選挙でより一般的になる可能性が高い。

この広告は、政治広告におけるAIの規制の必要性について議論を巻き起こしている。虚偽広告に関する既存の法律では、AIが生成したコンテンツによってもたらされる特有の課題に対処するには不十分であると主張する人もいる。また、AIを使用してコンテンツを作成または変更した場合に、その旨を示す義務的な免責条項を含め、より厳格な規制を提唱する人もいる。

月曜日現在、コーニン上院議員の選挙陣営は、この広告に対する正式な回答を発表していない。クロケット下院議員の選挙陣営は、AIを使用して誤解を招くコンテンツを作成することを非難する声明を発表し、それを今後の選挙における「危険な前例」と呼んだ。テキサス倫理委員会は現在、この広告が州法に違反していないかどうかを審査している。