政府は、特にGrok AIの登場とその悪用の可能性を考慮し、ディープフェイクに対抗するために設計された法律の施行を遅らせているとして非難されています。批評家たちは、規制措置の遅れが、ますます高度化する人工知能技術の悪意のある応用に対して社会を脆弱にしていると主張しています。

懸念の中心は、xAIによって開発されたGrokのようなAIモデルが、非常にリアルで欺瞞的な音声およびビデオコンテンツを生成する能力にあります。敵対的生成ネットワーク（GAN）などの技術を使用して作成されたディープフェイクは、本物と偽造された素材を区別することを困難にし、実在の人物を説得力を持って模倣することができます。この能力は、偽情報キャンペーン、評判の毀損、さらには政治的操作に重大なリスクをもたらします。

「技術は指数関数的に進化していますが、私たちの法的枠組みは大きく遅れをとっています」と、工科大学のAI倫理学教授であるアーニャ・シャルマ博士は述べています。「取り返しのつかない損害を引き起こす前に、悪意のあるディープフェイクの作成と拡散を阻止するための明確なガイドラインと規制が必要です。」

敵対的生成ネットワーク（GAN）は、2つのニューラルネットワークを互いに対立させることによって機能します。一方のネットワークであるジェネレーターは、合成データを作成し、もう一方のネットワークである識別器は、本物のデータと偽のデータを区別しようとします。この反復プロセスを通じて、ジェネレーターはますますリアルな出力を生成することを学習し、最終的には説得力のあるディープフェイクの作成につながります。

提案されている法律は、ディープフェイクの識別、ラベル付け、および削除のための法的枠組みを確立することにより、これらの課題に対処することを目的としています。また、欺瞞的なコンテンツを作成および配布した個人および組織に責任を負わせることも目指しています。しかし、この法案は議会での審議が遅れており、市民権団体や技術専門家からの批判を招いています。

「効果的な規制なしに過ぎる日々は、悪意のある者がこれらの技術を免責で悪用できる日々です」と、デジタル自由連合のディレクターであるマーク・オルセンは述べています。「政府はこの問題を優先し、ディープフェイクの潜在的な危害から国民を保護するために迅速に行動しなければなりません。」

政府は、弁護として、技術の複雑さには、イノベーションの抑制や言論の自由の侵害など、意図しない結果を避けるために慎重な検討が必要であると主張しています。当局者はまた、ディープフェイクは国境を容易に越える可能性があるため、執行が困難になるため、国際協力の必要性を指摘しています。

「私たちはディープフェイクによってもたらされるリスクに対処することに尽力していますが、効果的かつ比例的な方法でそれを行う必要があります」と、デジタル問題省の広報担当者は述べています。「私たちは、法律が目的に適合し、AIの正当な使用を不当に制限しないようにするために、専門家や利害関係者と積極的に協議しています。」

法律の現在の状況は議会委員会によって審査されており、今後数週間でさらなる議論が予想されます。これらの議論の結果は、政府がディープフェイクやその他のAI生成コンテンツに関連するリスクを効果的に軽減できる範囲を決定します。次のステップには、提案された規制を洗練し、さまざまな利害関係者から提起された懸念に対処するために、テクノロジー企業や法律専門家とのさらなる協議が含まれます。