政府は、特にGrok AIの登場とその潜在的な悪用を考慮し、ディープフェイクに対処する法案の施行を遅らせているとして批判にさらされている。批評家たちは、この遅延によって社会が、説得力のある偽の音声およびビデオコンテンツを作成するテクノロジーの能力に対して脆弱なままになると主張しており、選挙、評判、および公共の信頼に影響を与える可能性がある。

非難の中心は、ディープフェイクの作成と配布を規制する法律の起草と制定のペースが遅いと認識されていることにある。議員たちは、言論の自由の保護と、テクノロジーの悪意のある使用を抑制する必要性とのバランスを取りながら、数ヶ月にわたってそのような法律の具体的内容について議論してきた。「私たちは長年、ディープフェイクの危険性について警告してきました」と、AI倫理の研究者であるローラ・クレスは述べた。「行動を遅らせれば遅らせるほど、これらのテクノロジーはより洗練され、それらが引き起こす可能性のある損害を軽減することが難しくなります。」

ディープフェイクは、高度な人工知能技術、特に深層学習を利用して、視覚および音声コンテンツを操作または生成する。敵対的生成ネットワーク（GAN）がしばしば使用され、2つのニューラルネットワークが互いに対抗する。1つは偽のコンテンツを生成し、もう1つはそれを実際のコンテンツと区別しようとする。この反復プロセスにより、ますます現実的な偽造につながる。最近リリースされた大規模言語モデル（LLM）であるGrok AIは、高度なテキストおよび画像生成機能により、洗練されたディープフェイクの作成をより広範なユーザーが利用できるようにするため、懸念が高まっている。

抑制されていないディープフェイク技術の影響は広範囲に及ぶ。政治的な偽情報や人格攻撃の可能性を超えて、専門家はメディアや機関への信頼の低下について警告している。「人々が何が本物で何が偽物かを確実に区別できない場合、それは私たちの社会の基盤を損なうことになります」と、メディア研究の教授であるアーニャ・シャルマ博士は述べた。「真実が主観的になり、容易に操作される時代に入る危険性があります。」

いくつかの国はすでに、合成コンテンツに関する免責事項を要求したり、危害を加えることを意図したディープフェイクの作成または配布を犯罪化するなど、ディープフェイクに対処するための規制を実施し始めている。欧州連合のデジタルサービス法には、ディープフェイクを含む偽情報の拡散と戦うことを目的とした条項が含まれている。

政府は懸念を認め、この問題に対処することを約束していると述べた。司法省の報道官は、法律の起草は複雑なプロセスであり、憲法上の権利と技術的な実現可能性を慎重に検討する必要があると述べた。「私たちは、言論の自由を保護しながら、ディープフェイクの害から国民を保護する包括的な法的枠組みを開発するために熱心に取り組んでいます」と報道官は述べた。

しかし、批評家は依然として懐疑的であり、AI技術の急速な進歩と、今後の選挙でディープフェイクが使用される可能性を指摘している。彼らは政府に対し、立法プロセスを迅速化し、当面の危険を軽減するための暫定的な措置を実施するよう促している。この議論は今後数週間で継続すると予想され、議員は断固たる行動を取るよう圧力を受けることになる。