ダウニング街10番地（首相官邸）は、旧Twitterとして知られるXが、同社のGrok AIモデルを使用して生成されたディープフェイクの問題に対処するための措置を講じているという報道を評価する意向を表明しました。首相官邸は、AI生成コンテンツの悪用の可能性を認識し、プラットフォームがリスク軽減の責任を負うことの重要性を強調しました。

ディープフェイクは、「ディープラーニング」と「フェイク」を組み合わせた造語で、既存の画像や動画内の人物を別人の肖像に置き換える合成メディアです。この技術は、高度な人工知能、特に深層学習アルゴリズムを活用して、非常にリアルでありながら、捏造されたコンテンツを作成します。懸念されるのは、これらのディープフェイクが、誤った情報を拡散したり、世論を操作したり、評判を傷つけたりするために使用される可能性があることです。

XのAIモデルであるGrokは、OpenAIのGPTモデルやGoogleのGeminiと同様の大規模言語モデル（LLM）です。LLMは、テキストとコードの膨大なデータセットでトレーニングされており、人間品質のテキストを生成したり、言語を翻訳したり、さまざまな種類のクリエイティブコンテンツを作成したり、質問に有益な方法で答えたりすることができます。しかし、LLMを有用にするのと同じ機能が、ディープフェイクを含む悪意のあるコンテンツを作成するために悪用される可能性もあります。

Grokによって生成されたディープフェイクに対抗するためのXの具体的な対策の詳細は限られたままですが、業界アナリストは、プラットフォームがAI生成コンテンツに透かしを入れたり、ディープフェイクを検出するためのアルゴリズムを開発したり、欺瞞的な合成メディアの作成と拡散に対する明確なポリシーを確立したりするなどの技術を実装する可能性があると推測しています。透かし入れとは、生成されたコンテンツに、それがAIによって生成されたものであることを識別する、微妙で、しばしば目に見えないマーカーを埋め込むことです。検出アルゴリズムは、顔の特徴の矛盾や不自然な動きなど、操作の兆候がないかメディアを分析します。

ディープフェイクの拡散は、情報エコシステムに重大な課題をもたらしています。専門家は、これらの技術の高度化が進むにつれて、本物と偽物のコンテンツを区別することが難しくなり、メディアや機関への信頼が損なわれる可能性があると警告しています。英国政府は、AIの責任ある開発と展開を確保することに重点を置き、AIの規制の枠組みを積極的に検討してきました。

ディープフェイクに対処するためのXの動きは、テクノロジー業界におけるより広範なトレンドと一致しており、企業はAIの倫理的および社会的影響に取り組んでいます。MetaやGoogleなどの他の主要プラットフォームも、ディープフェイクやその他の形態のAI生成による誤情報の拡散に対抗するためのイニシアチブを発表しています。

ダウニング街の報道官が発表した声明によると、政府はGrokディープフェイクに対処するXの進捗状況を綿密に監視し、プラットフォームがこの技術の潜在的な危害からユーザーを保護するために積極的な措置を講じることを期待しています。Xの取り組みに関するさらなる最新情報は、今後数週間で発表される予定です。