共和党の上院議員候補であるケン・パクストン テキサス州司法長官が金曜日に公開した広告には、パクストンが挑戦している共和党のジョン・コーニン上院議員と、民主党の上院予備選に出馬しているジャスミン・クロケット下院議員が踊っているデジタルで捏造された映像が含まれていた。AIが生成したこの動画は、選挙キャンペーンの攻撃広告として意図されたもので、政治広告における人工知能の利用増加を浮き彫りにし、誤った情報が流布される可能性への懸念を高めている。

この広告は、コーニンとクロケットがテキサスのダンスホールや米国議会議事堂など、一連の捏造された場面で、「上院スイング」や「ワシントンワルツ」を踊っている様子を描いている。デジタルで作成されたダンスクリップの間には、クロケットがコーニンを称賛する本物の動画や、コーニンが彼女について好意的に語っているニュース報道が挟み込まれている。

パクストンの選挙陣営は、広告の意図やメッセージに関する声明を発表していない。政治キャンペーンで欺瞞的なコンテンツを作成するためにAIを使用することは比較的新しい現象であり、そのような素材の規制に関する倫理的および法的問題が生じている。これらの「ディープフェイク」の背後にある技術は、人の外見や声を説得力を持って模倣できる高度なアルゴリズムに依存しており、視聴者が本物と捏造されたコンテンツを区別することを困難にしている。

専門家は、政治広告におけるAI生成コンテンツの拡散は、メディアと政治プロセスに対する国民の信頼を損なう可能性があると警告している。「現実的だが完全に捏造された動画を作成する能力は、情報に基づいた意思決定に対する重大な脅威となる」と、テキサス大学のメディア倫理学教授であるエミリー・カーター博士は述べている。「有権者は、情報の批判的な消費者である必要があり、操作の可能性に注意する必要がある。」

AIを活用した広告ツールの開発は急速に進んでおり、ますます現実的で説得力のあるコンテンツを作成するための新しい技術が登場している。研究者たちはAI生成コンテンツを検出する方法を模索しているが、その技術はAI合成の進歩に常に追いつこうとしている。連邦選挙委員会（FEC）は現在、政治広告におけるAIの使用に関する規制を検討しているが、正式な規則は確立されていない。テキサス州の上院議員選挙は注目されると予想されており、選挙キャンペーン広告におけるAIの使用は、選挙期間中を通じて繰り返されるテーマとなる可能性が高い。