政府高官の発言によると、ディープフェイクに関する懸念から、英国でXと呼ばれる企業が禁止される可能性があるとのことです。同高官は、AIが生成した操作されたコンテンツの拡散にプラットフォームが適切に対処していない疑いがあることを、潜在的な禁止の理由として挙げました。

政府は、国民の安全と情報の完全性を確保するために、禁止を含む利用可能なすべての選択肢を積極的に検討していると、同高官は火曜日の議会公聴会で述べました。具体的な懸念は、国民を欺き、選挙に影響を与え、または評判を傷つける可能性のあるディープフェイクを中心に展開しています。

昨年可決されたオンライン安全法は、政府にオンラインプラットフォームを規制し、有害なコンテンツに対して責任を負わせる権限を与えています。この法律は、Xに対する潜在的な措置の枠組みを提供し、プラットフォームが法律の規定を遵守しない場合、罰金、そして最終的には禁止を含む可能性があります。

Xの批判者たちは、ディープフェイクを含む誤った情報や有害なコンテンツの拡散を阻止するために、プラットフォームが十分な対策を講じていないと長年主張してきました。彼らは、操作された動画や画像が拡散し、現実世界で害を及ぼしている事例を指摘しています。

Xは、政府高官の発言に対し、ディープフェイクや誤った情報との闘いへのコミットメントを表明する声明を発表しました。同社は、操作されたコンテンツを検出し削除することを目的とした既存のポリシーとテクノロジーの概要を説明し、この分野での能力を継続的に向上させていると付け加えました。「私たちはディープフェイクの問題を非常に深刻に受け止めており、有害なコンテンツからユーザーを保護することに尽力しています」と声明には書かれています。

しかし、一部の専門家はXの取り組みに懐疑的であり、プラットフォームのポリシーが一貫して実施されておらず、その検出技術はディープフェイク技術の急速に進化する能力に追いつくほど高度ではないと主張しています。

英国政府の動きは、ディープフェイクが機関への信頼を損ない、社会を不安定にする可能性に対する世界的な懸念の高まりの中で行われています。いくつかの国が、ディープフェイクを規制し、それらを作成および配布する人々に責任を負わせる方法を模索しています。

科学・イノベーション・技術省は現在、政府の懸念に対するXの対応を検討しています。同省は数週間以内に大臣に勧告を行う予定であり、その後、禁止を追求するかどうかの決定が下されます。意思決定プロセスには、専門家、利害関係者、および他の政府機関との協議が含まれます。