政府当局は、イーロン・マスク氏のソーシャルメディアプラットフォームXに対し、同プラットフォームの人工知能チャットボットGrokによって生成された、当局が「ぞっとする」と呼ぶディープフェイクの拡散に対処するよう要求している。この要求は、X上で現実的だが捏造されたコンテンツが急増し、誤った情報や個人・機関への潜在的な危害に対する懸念が高まっていることを受けてのものだ。

政府の懸念は、Grokが非常に説得力のある音声およびビデオのディープフェイクを生成する能力に集中している。これらの合成メディア作品は、実在の人物の声や外見を模倣することができ、一般ユーザーが本物のコンテンツと区別することを困難にする。「これらのディープフェイクの巧妙さは非常に憂慮すべきものです」と政府報道官は述べた。「私たちは、一般の人々を非常に簡単に欺くことができるレベルのリアリズムを目にしています。」

マスク氏のAI企業xAIによって開発されたGrokは、テキストの生成、言語の翻訳、さまざまな種類のクリエイティブコンテンツの作成、そして有益な方法で質問に答えるように設計された大規模言語モデル（LLM）である。他のLLMとは異なり、GrokはXプラットフォームに直接統合されており、プレミアムサブスクリプションを持つユーザーは、ソーシャルメディア環境内でその機能にアクセスして利用することができる。この統合は、ユーザーエクスペリエンスを向上させることを意図しているが、意図せずディープフェイクを作成および拡散するための容易に入手可能なツールを提供してしまった。

この状況の業界への影響は大きい。AI倫理学者や技術専門家は、Grokのような生成AI技術の悪用の可能性について長年警告してきた。Xでの現在の状況は、イノベーションと責任ある展開のバランスを取ることの難しさを浮き彫りにしている。「これは業界全体への警鐘です」と、著名なAI研究者であるアーニャ・シャルマ博士は述べた。「ディープフェイクが取り返しのつかない損害を引き起こす前に、堅牢なセーフガードと検出メカニズムを開発する必要があります。」

Xは、ディープフェイク検出機能を改善し、より厳格なコンテンツモデレーションポリシーを実施することに積極的に取り組んでいると述べて、政府の要求に応えている。同社は、合成メディアを識別してフラグを立てるように設計された高度なAIアルゴリズムに投資していると主張している。「私たちは、プラットフォームの完全性を確保し、有害な誤った情報の拡散を防ぐことに尽力しています」と、Xが発表した声明は述べている。しかし、批評家は、Xの取り組みは不十分であり、プラットフォームはディープフェイクの作成と配布を抑制するためにもっと断固とした行動を取る必要があると主張している。

現在の状況は、政府とXの間の協議が進行中であるということだ。政府は、Xが問題に適切に対処できない場合、規制措置を検討していると伝えられている。次の展開には、Xによる更新されたコンテンツモデレーションポリシーの発表、およびAI生成コンテンツの使用を規制することを目的とした新しい法律の導入が含まれる可能性がある。この状況は、急速に進歩するAI技術に関連するリスクを管理するための包括的なアプローチの緊急の必要性を強調している。