英国政府の大臣が、ディープフェイクに関する懸念から、X（旧Twitter）の英国での利用禁止の可能性を示唆しました。この利用禁止の可能性は、特に政治分野において、AI生成コンテンツが蔓延し、大衆を欺く可能性があることに起因すると大臣は述べています。

政府は、既存の法律がディープフェイクによってもたらされるリスクに適切に対処できるかどうかを判断するために、積極的に法律の見直しを行っています。「国民を偽情報や操作から保護するために、利用禁止の可能性を含め、あらゆる選択肢を検討しています」と大臣は声明で述べています。この見直しでは、ディープフェイクが選挙、公共の議論、および国家安全保障に与える影響が考慮されます。

ディープフェイクは、誰かが実際には行っていないことや言っていないことを、説得力のあるように描写するために操作または捏造されたビデオやその他のメディアと定義され、近年ますます高度化し、アクセスしやすくなっています。専門家は、これらの技術が虚偽の情報を拡散し、評判を傷つけ、暴力を扇動するために使用される可能性があると警告しています。

この利用禁止案は、政策立案者、テクノロジー企業、および市民的自由擁護者の間で議論を呼んでいます。悪意のあるディープフェイクの作成と拡散を阻止するためには利用禁止が必要であると主張する人もいれば、潜在的な検閲や正当な芸術的表現の抑制について懸念を表明する人もいます。

「私たちは、国民を危害から保護することと、言論の自由を維持することのバランスを取る必要があります」と、あるデジタル権利団体の広報担当者は述べています。「全面的な利用禁止は、意図しない結果をもたらし、AI技術の正当な利用に不均衡な影響を与える可能性があります。」

Xは、大臣の発言に対する正式な声明をまだ発表していません。しかし、同社は以前、プラットフォーム上の偽情報と闘うことへのコミットメントを表明しており、ディープフェイクを検出し、削除するための対策を実施しています。

政府の見直しは数か月以内に完了する予定で、その後、利用禁止の可能性に関する決定が下されます。この決定には、業界関係者、法律専門家、および一般市民との協議が含まれる可能性があります。その結果は、他の国がディープフェイクやその他の形式のAI生成コンテンツをどのように規制するかについて、先例となる可能性があります。