ダウニング街10番地は、旧Twitterとして知られるXが、同社の人工知能モデルであるGrokを使用して生成されたディープフェイクの問題に対処するための措置を講じているという報道に対し、承認の意を表明しました。この動きは、AIが生成したコンテンツが誤った情報を拡散し、世論を操作する可能性に対する懸念の高まりの中で行われました。

首相報道官は、政府はテクノロジー企業によるAIに関連するリスク、特にディープフェイクの文脈におけるリスクを軽減するためのあらゆる努力を歓迎すると述べました。「私たちは、責任あるAIの開発と展開の必要性を明確にしてきました」と報道官は述べました。「Xのようなプラットフォームが、悪用の可能性に対処するための積極的な措置を講じていることは心強いことです。」

ディープフェイクとは、既存の画像や動画内の人物を他の人物の肖像に置き換える合成メディアであり、多くの場合、敵対的生成ネットワーク（GAN）を含む高度なAI技術を使用して作成されます。GANは、ジェネレーターと識別器という2つのニューラルネットワークで構成され、これらが連携して動作します。ジェネレーターは合成コンテンツを作成し、識別器は本物と偽物のコンテンツを区別しようとします。この反復プロセスを通じて、ジェネレーターはますますリアルなディープフェイクを生成することを学習します。

XのGrokは、自然言語処理と生成のために設計されたAIモデルであり、リアルなテキストベースのディープフェイクを作成したり、ビデオディープフェイクのスクリプトを生成したりする可能性があります。XがGrok関連のディープフェイクに対処するために講じていると伝えられている具体的な措置は完全には明らかにされていませんが、業界アナリストは、コンテンツモデレーションポリシーの実施、検出ツールの開発、AIが生成したコンテンツへの透かしの挿入などが含まれる可能性があると推測しています。

ディープフェイクの台頭は、情報エコシステムに重大な課題をもたらしています。専門家は、これらの操作されたメディアが、評判を傷つけ、不和をまき散らし、さらには選挙に影響を与えるために使用される可能性があると警告しています。テクノロジーのアクセシビリティと洗練度が増すにつれて、本物と偽造されたコンテンツを区別することが困難になり、メディアや機関への信頼が損なわれています。

他のソーシャルメディアプラットフォームやテクノロジー企業も、ディープフェイクの問題に取り組んでいます。多くは、微妙な矛盾やアーティファクトに基づいて操作されたメディアを識別できるAI搭載の検出ツールに投資しています。また、コンテンツの信頼性を検証するために、ブロックチェーン技術の使用を検討している企業もあります。

英国政府は、ディープフェイクに関連するリスクに対処するための措置を含む、AIの規制の枠組みを積極的に検討しています。最近施行されたオンライン安全法には、操作されたメディアを含む有害なオンラインコンテンツに対処するための条項が含まれています。

Grokディープフェイクに対処するためのXの取り組みの現状は不明なままです。詳細については、今後数週間以内に同社から発表される予定です。政府報道官は、AIによってもたらされる課題に対処し、その責任ある開発と利用を確保するために、政府、業界、市民社会間の継続的な協力の重要性を改めて強調しました。