政府は、特にGrok AIの登場とその悪用の可能性を考慮し、ディープフェイク対策を目的とした法案の施行を遅らせているとして批判にさらされています。批評家たちは、この遅延により、社会が偽情報キャンペーンや個人情報の盗難など、この技術の悪意のある応用に対して脆弱な状態になっていると主張しています。

非難の中心は、ディープフェイクを法的に定義し、その悪用に対する罰則を定め、その作成と配布を規制することを目的とした法案の進捗の遅さにあるとされています。AI倫理の研究者であるローラ・クレス氏は、「意味のある法律を制定するのを待てば待つほど、ディープフェイクが世論を操作し、機関への信頼を損なうために兵器化されるリスクが高まります」と述べています。

ディープフェイクは、「ディープラーニングフェイク」の略で、既存の画像や動画に写っている人物を、別の人物の肖像に置き換えた合成メディアです。これは、強力な人工知能技術、特にディープラーニングアルゴリズムを使用して実現されます。これらのアルゴリズムは、大量のデータを分析してパターンを学習し、リアルな偽造品を生成します。この技術は近年急速に進歩しており、本物と偽造されたコンテンツを区別することがますます困難になっています。

最近リリースされた人工知能モデルであるGrok AIは、リアルなテキストや画像を生成する高度な能力により、懸念を高めています。専門家は、Grok AIが大規模な説得力のあるディープフェイクの作成に使用され、悪意のある者が偽情報やプロパガンダを拡散しやすくなることを懸念しています。このような強力なAIツールへのアクセスの容易さは、規制の枠組みに対する緊急性を高めています。

提案されている法案は、いくつかの重要な分野に対処することを目的としています。ディープフェイクを風刺やパロディと区別し、明確な法的定義を確立しようとしています。また、誰かを中傷したり、選挙を妨害したりするなど、悪意のある意図を持ってディープフェイクを作成および配布する個人または組織に対する罰則も提案しています。さらに、この法案は透明性の要件を求めており、コンテンツが合成であることを視聴者に知らせるために、ディープフェイクにはその旨を明確に表示することを義務付けています。

しかし、過度に広範な法律は、映画制作や芸術的表現など、AI技術の正当な利用を阻害する可能性があると主張する人もいます。社会を危害から保護することと、イノベーションを促進することの適切なバランスを見つけることが、政策立案者にとっての重要な課題です。

政府は、あらゆる法律が効果的であり、意図しない結果をもたらさないように、慎重かつ熟慮されたアプローチを取っていると述べ、そのアプローチを擁護しています。当局は、問題の複雑さと、テクノロジー企業、法律専門家、市民社会組織など、幅広い関係者と協議する必要性を強調しています。

法案の現在の状況は、議会委員会による審査中であることです。委員会は、議会全体に勧告を行う前に、さらに公聴会を開催し、追加の意見を求める予定です。法案の最終投票のスケジュールは依然として不確実です。法案をめぐる議論は継続すると予想され、両側の関係者がそれぞれの立場を主張しています。その結果は、AI規制の将来とその社会への影響に大きな影響を与えるでしょう。