政府当局は、イーロン・マスク氏のソーシャルメディアプラットフォームXに対し、同プラットフォームの人工知能チャットボットであるGrokによって生成された、当局が「嘆かわしい」と表現するディープフェイクの拡散に対処するよう要求している。懸念の中心は、これらのAI生成された画像や動画が、特に今後の選挙を控えた時期に、誤った情報を拡散し、評判を傷つける可能性があることにある。

昨日遅くに超党派の上院議員グループによって出されたこの要求は、Xに対し、Grokを使用したディープフェイクの作成と拡散に対するより厳格な安全策を実施するよう求めている。具体的には、上院議員らはXに対し、コンテンツモデレーションポリシーの強化、ディープフェイク検出能力の向上、およびAI生成された偽情報が疑われる場合のユーザーによる報告のためのより明確なメカニズムの提供を強く求めている。

「AI技術の急速な進歩は、機会と課題の両方をもたらします」と、カリフォルニア州選出の民主党上院議員、サラ・チェン氏はプレスリリースで述べた。「Grokは貴重なツールとなる可能性を秘めていますが、説得力のある捏造されたコンテンツを作成するために悪用されることは非常に憂慮すべきことです。Xには、自社のプラットフォームがこのように兵器化されるのを防ぐ責任があります。」

ディープフェイクは、技術的には合成メディアとして知られており、高度なAIアルゴリズムを使用して作成され、多くの場合、敵対的生成ネットワーク（GAN）のような深層学習技術に基づいている。GANは、ジェネレーターと識別器という2つのニューラルネットワークが連携して動作する。ジェネレーターは合成コンテンツを作成し、識別器は本物と偽物のコンテンツを区別しようとする。この反復プロセスを通じて、ジェネレーターはますます現実的な偽造品を作成することに熟達していく。懸念されるのは、これらの偽造品が個人を装ったり、虚偽の情報を広めたり、世論を操作するために使用される可能性があることだ。

Xは2023年後半に、プラットフォームに直接統合された機能として、プレミアム加入者向けにGrokを導入した。Grokは、会話形式で質問に答え、リアルタイムの情報を提供するように設計されている。Xは有害なコンテンツの作成と配布を禁止するポリシーを設けているが、批評家は、これらのポリシーはAI生成されたディープフェイクによってもたらされる特有の課題に対処するには不十分であると主張している。プラットフォームは現在、自動検出システムとユーザーレポートの組み合わせに依存して、違反コンテンツを特定して削除している。

業界アナリストは、Xのユーザーレポートへの依存は重大な弱点であると指摘している。ディープフェイクは、フラグが立てられて削除される前に急速に拡散する可能性があるためだ。さらに、現在のディープフェイク検出技術は万全ではなく、高度な偽造品は検出を回避することが多い。「課題は、常に一歩先を行くことです」と、スタンフォード大学のAI研究者であるデビッド・リー博士は説明する。「AIモデルがより強力になるにつれて、説得力のあるディープフェイクを作成する能力も向上します。プラットフォームは、最先端の検出技術と堅牢なコンテンツモデレーション戦略に投資する必要があります。」

Xは、政府の要求に対して正式な回答をまだ発表していない。しかし、最近のインタビューで、リンダ・ヤッカリノCEOは、同社は誤った情報との闘いに尽力しており、AIによってもたらされる課題に対処するための新しい方法を積極的に模索していると述べた。「私たちはこの問題を非常に深刻に受け止めています」とヤッカリノ氏は述べた。「私たちは、ディープフェイクを検出してプラットフォームから削除するための高度な技術を開発し、展開するために取り組んでいます。」

政府の介入は、AIとその社会への潜在的な影響を取り巻く規制の監視が強まっていることを浮き彫りにしている。いくつかの国が現在、AI技術の開発と展開を規制する法律を検討しており、特にディープフェイクやその他の形式のAI生成された偽情報に関連するリスクへの対処に重点を置いている。たとえば、欧州連合はAI法を最終決定しており、顔認識やコンテンツモデレーションなどの高リスクアプリケーションでのAIの使用を規制するための条項が含まれている。

次のステップとしては、政府当局者とXの代表者との間で、提起された懸念に対処するための具体的な計画を策定するためのさらなる議論が行われる可能性が高い。これらの議論の結果は、AI規制の将来と、偽情報との闘いにおけるソーシャルメディアプラットフォームの責任に大きな影響を与える可能性がある。