政府高官の発言によると、ディープフェイクに関する懸念から、英国でXが禁止される可能性が出てきた。同高官は、偽情報拡散や国民の信頼を損なう技術の悪用の可能性を、そのような措置を検討する主な理由として挙げた。

政府は現在、ディープフェイクがもたらすリスクに既存の法律が十分に対処できるかどうかを検証している。「国民が操作されたメディアの有害な影響から保護されるよう、潜在的な禁止措置を含め、利用可能なすべての選択肢を積極的に検討している」と、同高官は議会公聴会で述べた。検証は数週間以内に終了する見込みで、その後、政府が決定を発表する。

人工知能を利用して、現実的だが捏造されたビデオやオーディオ録音を作成するディープフェイクは、ますます高度化し、アクセスしやすくなっている。このため、政策立案者や専門家の間で、政治キャンペーン、金融詐欺、その他の悪意のある活動での利用の可能性について懸念が高まっている。提案されている禁止措置は、欺瞞または危害を加えることを意図したディープフェイクの配布および作成を対象とする可能性が高い。

市民的自由擁護団体は、包括的な禁止措置について留保を表明しており、言論の自由を抑圧し、風刺や芸術的表現などの技術の正当な利用を妨げる可能性があると主張している。「ディープフェイクに対するいかなる制限も、意図しない結果を回避し、表現の自由が保護されるように、慎重に調整されなければならない」と、人権団体リバティの広報担当者は述べた。彼らは、ディープフェイクの操作された性質について国民に知らせるために、ディープフェイクの義務的なラベル表示など、代替手段を検討することを提案した。

Xは、同高官の発言に対する正式な声明をまだ発表していない。しかし、同社の立場に詳しい情報筋によると、懸念に対処し、潜在的な解決策を検討するために政府と協力しているという。同社は以前、偽情報の拡散との闘いに取り組むことを表明しており、プラットフォームからディープフェイクを検出して削除するための措置を実施している。

政府の検証では、テクノロジー企業、学者、法執行機関からの意見も考慮されている。焦点は、ディープフェイクの潜在的な危害から国民を保護することと、技術革新の利点を維持することのバランスを見つけることにある。検証の結果は、英国におけるディープフェイク規制の将来に大きな影響を与え、他の国々の政策決定に影響を与える可能性がある。