ダウニング街10番地（首相官邸）は、旧Twitterとして知られるXが、同社の人工知能モデルであるGrokによって生成されたディープフェイク問題に対処するための措置を講じているという報道に対し、承認の意を表明しました。この動きは、AI生成コンテンツの誤用による誤情報やプロパガンダの拡散の可能性に対する懸念の高まりの中で行われました。

首相報道官は、政府はディープフェイク技術に関連するリスクを軽減するためのあらゆる努力を歓迎すると述べました。「我々は、特にAI生成素材に関して、テクノロジー企業が自社のプラットフォームでホストされているコンテンツに対して責任を負う必要性を明確にしてきました」と報道官は述べました。「Xがこの問題を真剣に受け止めているという報道に勇気づけられています。」

ディープフェイクとは、既存の画像や動画に写っている人物を、別の人物の肖像に置き換えた合成メディアのことです。これは通常、高度な機械学習技術、特に深層学習アルゴリズムを使用して実現されるため、「ディープフェイク」という名前が付けられています。XのAIモデルであるGrokは、テキストや画像を生成することができ、現実的なディープフェイクを大規模に作成するために使用される可能性があるという懸念が高まっています。

ディープフェイク技術の業界への影響は甚大です。専門家は、ディープフェイクがメディアへの信頼を損ない、世論を操作し、さらには金融詐欺や政治的妨害工作などの悪意のある目的で使用される可能性があると警告しています。アクセス可能なAIツールの普及により、技術的な専門知識が限られている個人でも説得力のあるディープフェイクを作成することが容易になり、被害の可能性が増幅されています。

Grokによって生成されたディープフェイクに対処するためのXの具体的な対策の詳細は限られたままですが、報道によると、同社はAI生成コンテンツへの透かしの追加、利用規約に違反するディープフェイクを削除するためのコンテンツモデレーションポリシーの実施、合成メディアを識別してフラグを立てるための検出ツールの開発など、いくつかのオプションを検討していることが示唆されています。

オックスフォード大学の著名なAI研究者であるアーニャ・シャルマ博士は、「課題はディープフェイクを検出するだけでなく、その出所を特定することにもあります」と述べています。「XがディープフェイクをGrokに効果的に遡ることができれば、説明責任において大きな前進となるでしょう。」

Xはまだ計画に関する正式な声明を発表していませんが、関係者によると、今後数週間以内に発表される見込みです。同社は、ディープフェイクの脅威に対処するための包括的なアプローチを開発するために、政府規制当局や業界パートナーと緊密に連携していると伝えられています。AI規制に関する議論が激化し続ける中、Xの対策の有効性は、政策立案者や一般市民によって注意深く見守られるでしょう。