政府は、特に高度にリアルな合成メディアを生成できる新しい人工知能モデルであるGrok AIの登場を受けて、ディープフェイク技術の悪用に対処するために設計された法律の施行を遅らせているとして批判にさらされています。批評家たちは、この遅延によって社会が、偽情報キャンペーン、評判の毀損、さらには金融詐欺など、ディープフェイクの潜在的な害に対して脆弱な状態に置かれると主張しています。

懸念の中心は、xAIによって開発されたGrokのようなAIツールの高度化とアクセシビリティの向上にあります。Grokは、他の大規模言語モデル（LLM）と同様に、膨大なテキストと画像のデータセットでトレーニングされており、リアルなテキスト、画像、およびビデオを生成できます。この機能は、コンテンツ作成や教育などの分野で潜在的なメリットを提供する一方で、悪意のある使用のリスクも大きく伴います。このようなツールで作成されたディープフェイクは検出が難しく、本物と偽造されたコンテンツを区別することが困難になっています。

カリフォルニア大学バークレー校のAI倫理学教授であるアニヤ・シャルマ博士は、「ディープフェイクの規制を遅らせれば遅らせるほど、悪意のある者がこの技術を悪用する機会が増えます」と述べています。「ディープフェイクを構成するものを定義し、その悪用に対する責任を確立し、救済のメカニズムを提供する明確な法的枠組みが必要です。」

数か月間検討されているこの法案は、ディープフェイクの法的定義を確立し、悪意のある作成と配布に対する罰則を定め、コンテンツ認証のための枠組みを作成することにより、これらの懸念に対処することを目的としています。しかし、この法案の進捗は、規制の範囲に関する意見の相違や、言論の自由への潜在的な影響に関する懸念から、停滞していると伝えられています。

過度に広範な規制は、風刺や芸術的表現など、AI技術の正当な使用を抑制する可能性があると主張する人もいます。一方、ディープフェイクの潜在的な害はこれらの懸念を上回り、個人や機関を保護するためには強力な規制が必要であると主張する人もいます。

この議論は、急速に進化するAI技術を規制する上での複雑な課題を浮き彫りにしています。政策立案者は、潜在的な害から社会を保護する必要性と、イノベーションを促進し、意図しない結果を回避したいという願望とのバランスを取らなければなりません。

この法案の現状は依然として不確実です。政府関係者は、ディープフェイクの問題に対処することにコミットしていると述べていますが、法案がいつ最終決定されるかについては時期を示していません。それまでの間、専門家は個人や組織に対し、ディープフェイクの可能性について警戒し、その影響を検出および軽減するための戦略を開発するよう促しています。いくつかのハイテク企業もディープフェイクを検出するためのツールの開発に取り組んでいますが、この技術は常に進化しており、作成者と検出者の間の絶え間ない軍拡競争となっています。