政府当局は、イーロン・マスク氏のソーシャルメディアプラットフォームXに対し、同プラットフォームの人工知能チャットボットであるGrokによって生成された、当局が「ぞっとする」と表現するディープフェイクの拡散に対処するよう要求している。この要求は、X上で現実的だが捏造された音声および動画コンテンツが急増し、潜在的な誤情報や評判の毀損に対する懸念が高まったことを受けてのものだ。

政府の懸念は、Grokが最小限のユーザー入力で非常に説得力のあるディープフェイクを生成する能力に集中している。ディープフェイク（「ディープラーニングフェイク」の略）は、高度なAIアルゴリズムを利用して視覚および音声コンテンツを操作または生成し、多くの場合、現実と捏造された素材の区別を困難にする。この技術は、人間の特徴を学習および複製するために、画像と音声の膨大なデータセットでトレーニングされたニューラルネットワークに依存している。

技術規制庁の広報担当者は声明の中で、「Grokが悪意のある目的のために兵器化される可能性について深く憂慮している」と述べた。「説得力のあるディープフェイクがX上でいとも簡単に作成および拡散されることは、公衆の信頼と安全に対する重大な脅威となる。」

Xの代表者は政府の懸念を認め、Grokに関連するリスクを軽減するために積極的に取り組んでいると述べた。Xのトラスト＆セーフティチームからの声明では、「当社は、当社のプラットフォーム上でのAIの責任ある利用を保証することに尽力している」と述べられている。「当社の利用規約に違反するディープフェイクを特定して削除するために、強化された検出メカニズムとコンテンツモデレーションポリシーを実装している。」

昨年後半に開始されたGrokは、Xのプレミアムサブスクリプションサービスに統合されたAIチャットボットである。質問に答えたり、創造的なコンテンツを生成したり、ユーザーとの会話に参加したりするように設計されている。XはGrokをエンターテインメントと情報のためのツールとして宣伝しているが、批評家はその機能が偽情報の作成と拡散に容易に悪用されると主張している。

業界アナリストは、政府の介入は、AIによって生成されたコンテンツを取り巻く規制上の課題の高まりを浮き彫りにしていると示唆している。カリフォルニア大学バークレー校のAI倫理学教授であるアーニャ・シャルマ博士は、「これは分水嶺となる瞬間だ」と述べた。「これは、特にソーシャルメディアプラットフォームの文脈において、AI技術の開発と展開を管理するための明確な法的枠組みと倫理的ガイドラインの緊急の必要性を強調している。」

政府当局からの要求は、いくつかの国がディープフェイクやその他の形態のAIによって生成された誤情報をどのように規制するかについて苦慮している中で出された。たとえば、欧州連合は、提案されているAI法の下で、AI技術に対するより厳格な規制を検討している。

Xは、言論の自由へのコミットメントと、有害なコンテンツからユーザーを保護する必要性とのバランスを取るという課題に直面している。同社の現在のコンテンツモデレーションポリシーは、欺瞞または誤解を招くことを意図したディープフェイクの作成および配布を禁止しているが、AI技術の急速な進化により、執行は困難であることが証明されている。

Xは、AIによって生成されたコンテンツへの透かしの挿入、より高度な検出アルゴリズムの開発、誤解を招く可能性のあるコンテンツを作成または共有するユーザーに対するより厳格な検証プロセスの実装など、ディープフェイクの問題に対処するためのいくつかの技術的ソリューションを検討していると述べた。同社は、これらの措置の実施に関する具体的なタイムラインを提供しなかった。技術規制庁は、Xの進捗状況を監視し続け、必要に応じてさらなる措置を検討することを示唆した。