政府は、特にGrok AIの登場とその悪用の可能性を考慮すると、ディープフェイクに対処する法律の施行を遅らせているとして批判にさらされています。批評家たちは、この遅延により、社会が偽情報キャンペーンや個人情報の盗難など、この技術の悪意のある応用に対して脆弱な状態になっていると主張しています。

非難の中心は、ディープフェイクの作成と配布を具体的に対象とする法律の起草と制定の遅さにあると見られています。ディープフェイクは、本質的に、既存の画像や動画内の人物が他の人物の肖像に置き換えられた合成メディアです。これは、高度な人工知能技術、主に深層学習アルゴリズムを使用して実現されます。これらのアルゴリズムは、画像や動画の膨大なデータセットを分析して、人物の顔の特徴、表情、およびマナーを学習し、その人物の肖像を動画または音声録音内の別の人物に説得力のある方法で重ね合わせることができます。

懸念は、xAIによって開発された大規模言語モデル（LLM）であるGrok AIの機能によって増幅されています。LLMは、大量のテキストデータでトレーニングされており、人間品質のテキストを生成し、言語を翻訳し、包括的な方法で質問に答えることができます。LLMには多くの有益なアプリケーションがありますが、説得力のある偽のニュース記事を作成したり、個人が言ってもいないことを言っているように聞こえるリアルな音声を作成したり、ディープフェイク動画の作成に貢献したりするためにも悪用される可能性があります。

デジタル権利擁護者のローラ・クレスは、「ディープフェイクの規制を待てば待つほど、広範な操作と機関への信頼の低下のリスクが高まります」と述べています。「Grok AIや同様のテクノロジーは強力なツールですが、適切な保護措置がなければ、武器化される可能性があります。」

ディープフェイク規制をめぐる議論は複雑です。一方では、個人と社会をディープフェイクの潜在的な危害から保護する必要があります。他方では、イノベーションを阻害し、言論の自由を侵害することへの懸念があります。いかなる法律も、これらの競合する利益の間で微妙なバランスを取る必要があります。

ディープフェイク規制に対するいくつかのアプローチが検討されています。これらには、ディープフェイクに関する免責事項の要求、悪意のあるディープフェイクの作成と配布の犯罪化、およびディープフェイクを検出するための技術的ソリューションの開発が含まれます。一部の研究者は、デジタルコンテンツに透かしを入れたり、フィンガープリントを付けたりする方法を模索しており、操作されたメディアの識別を容易にしています。他の研究者は、動画や音声録音を分析して、ディープフェイク操作の明らかな兆候を検出できるAI搭載ツールに取り組んでいます。

政府は、ディープフェイクによってもたらされる課題に対処することにコミットしており、法律の制定に積極的に取り組んでいると述べています。しかし、批評家たちは、特にAI技術の急速な進歩を考えると、プロセスに時間がかかりすぎると主張しています。次のステップには、専門家、利害関係者、および一般市民とのさらなる協議、それに続いて、関連する立法機関での法律の起草と導入が含まれる可能性があります。制定のタイムラインは依然として不確実です。