政府は、英国の通信規制当局であるOfcomに対し、ソーシャルメディアプラットフォームX上で流通している違法な人工知能生成画像に関する懸念から、その全権限を行使することを検討するよう促しており、場合によっては禁止措置も含まれる可能性がある。この措置は、XのAIモデルであるGrokが、特に画像の人物をデジタル的に裸にするディープフェイクの作成に使用されていることに対する懸念の高まりに起因する。

オンライン安全法に基づくOfcomの権限により、イーロン・マスク氏が所有するXが資金調達を行うことや、英国国内でのプラットフォームへのアクセスを可能にすることを支援する第三者を阻止する可能性のある裁判所命令を求めることができる。政府の懸念が高まっているのは、Grokを使用して児童の性的な画像を生成する可能性があるためである。

キーア・スターマー首相は、そのような画像の作成を非難し、「これは不名誉なことです。忌まわしいことです。容認されるべきではありません。Ofcomがこれに関して行動を起こすことを全面的に支持します」と述べた。さらに、政府の姿勢を強調し、「これは違法です。容認しません。あらゆる選択肢を検討するよう指示しました」とGreatest Hits Radioのインタビューで語った。政府関係者はBBC Newsに対し、「Grok Xに関して、Ofcomが利用可能なすべての権限を行使することを期待する」と確認した。

ディープフェイクは、「ディープラーニング」と「フェイク」を組み合わせた造語であり、既存の画像や動画内の人物を、人工知能を使用して他の人物の肖像に置き換える合成メディアである。ディープフェイクには、エンターテインメントや芸術的表現など、さまざまな用途がある一方で、合意のないわいせつな画像の作成や偽情報の拡散など、悪用される可能性があり、重大な倫理的および法的懸念が生じている。GrokのようなAIモデルの高度化により、本物と操作されたコンテンツの区別がますます困難になり、問題がさらに複雑になっている。

オンライン安全法は、Ofcomにオンラインコンテンツを規制し、ユーザーを危害から保護するための重要な権限を付与している。これらの権限には、罰金の科料、違法コンテンツの削除要求、そして極端な場合には、ウェブサイトへのアクセス遮断などが含まれる。政府がOfcomに対し、Xの禁止を検討するよう促していることは、AI生成ディープフェイクに関連する潜在的な危害を政府が非常に深刻に捉えていることを示している。

状況は流動的であり、Ofcomがどのような具体的な行動をとるかは不明である。規制当局は、決定を下す前に、証拠と法的枠組みを慎重に検討すると予想される。この事例の結果は、AI生成コンテンツの規制と、AI技術の悪用に対処するソーシャルメディアプラットフォームの責任に大きな影響を与える可能性がある。