テキサス州司法長官で共和党の上院議員候補であるケン・パクストンが金曜日に公開した広告は、パクストンが挑戦している共和党のジョン・コーニン上院議員と、上院の党内予備選挙に出馬している民主党のジャスミン・クロケット下院議員がダンスをしているデジタルで捏造されたシーンをフィーチャーした。コーニンとクロケットの間に認識されている政治的連携を強調することを意図したこの広告は、テキサスのダンスホールや米国議会議事堂に似た設定で2人がダンスをするAI生成クリップと、クロケットがコーニンを称賛する本物のビデオや、コーニンが彼女について好意的に語るニュース報道を散りばめている。

政治広告におけるAIの使用は、選挙における誤った情報や操作の可能性についての懸念を高めている。この技術により、現実的でありながら完全に捏造されたシナリオを作成することが可能になり、事実とフィクションの境界線を曖昧にし、有権者を誤解させる可能性がある。この事件は、AIツールの利用しやすさの向上と、政治的議論への潜在的な影響を浮き彫りにしている。

この文脈における人工知能とは、コンピューターシステムによる人間の知能プロセスのシミュレーションを指す。特に、生成AIは、既存のデータから学習したパターンに基づいて、画像やビデオなどの新しいコンテンツを作成できる。コーニンとクロケットの広告は、この能力を例示しており、そのようなイベントが一度も発生していないにもかかわらず、AIアルゴリズムを使用して2人の政治家が一緒にダンスをするビデオを生成している。

専門家は、AI技術の高度化と手頃な価格化が進むにつれて、将来の選挙でAI生成コンテンツが急増する可能性が高いと警告している。これは、本物と捏造された情報を区別するのに苦労する可能性のある有権者にとって、重大な課題となる。世論に影響を与える可能性のある、非常に現実的だが偽のビデオである「ディープフェイク」の可能性は、ますます懸念されている。

政治キャンペーンでのAIの使用は、完全に新しいものではない。アンドリュー・M・クオモは以前、キャンペーンビデオでAI生成シーンを使用していた。しかし、パクストンの広告は、この技術の高度化と潜在的な影響を強調している。

AI生成の政治広告を取り巻く法的および規制上の状況は、まだ進化している。政治広告におけるAIの使用を禁止する特定の連邦法は現在存在しないが、名誉毀損および虚偽広告に対する既存の法律が適用される可能性がある。一部の州では、政治広告におけるAI生成コンテンツの開示を義務付ける法律の制定を検討している。

この開発は、メディアリテラシーと、誤った情報と戦う上でのソーシャルメディアプラットフォームの責任についての疑問を提起する。ファクトチェック機関は、AI生成コンテンツを特定して反論するために取り組んでいるが、AI生成コンテンツ作成のスピードと規模は、重大な課題となっている。ソーシャルメディア企業も、プラットフォーム上でAI生成コンテンツを特定してラベル付けする方法に取り組んでいる。

コーニンとクロケットのキャンペーンは、広告に関してまだ正式な声明を発表していない。この事件は、AIが政治情勢を再構築する可能性と、デジタル時代における警戒心と批判的思考の必要性を改めて認識させるものとなっている。