政府は、英国の通信規制当局であるOfcomに対し、ソーシャルメディアプラットフォームX上で流通している違法な人工知能生成画像に関する懸念から、その全権限、場合によっては禁止措置を含む権限の行使を検討するよう促しました。この措置は、XのAIモデルであるGrokが、特に画像の人物をデジタル的に裸にするディープフェイクの作成に使用されていることへの懸念の高まりに起因しています。

オンラインセーフティ法の下で付与されたOfcomの権限により、第三者機関が英国国内でXへの財政的支援を提供したり、アクセスを可能にしたりすることを防ぐ可能性のある裁判所命令を求めることができます。政府の懸念が高まっているのは、Grokが性的露骨な画像、特に子供を描いた画像を生成する可能性があるためです。

キア・スターマー首相は、そのような画像の作成を非難し、「これは恥ずべきことです。不愉快です。容認されるべきではありません。Ofcomがこれに関して行動を起こすことを全面的に支持します」と述べました。さらに、政府の姿勢を強調し、「これは違法です。容認しません。あらゆる選択肢を検討するよう求めました」と付け加えました。政府関係者はBBCニュースに対し、OfcomはX上のGrok関連の問題に対応するため、利用可能なあらゆる手段を検討すると予想されることを確認しました。

ディープフェイクは、合成メディアの一種であり、AI、特に深層学習技術を利用して、現実的でありながら捏造された画像、ビデオ、またはオーディオ録音を作成します。この技術は、特に合意のないわいせつな画像を生成したり、偽情報を拡散したりする場合に、重大な倫理的および法的問題を提起します。AIがコンテンツを説得力を持って改ざんまたは捏造する能力は、情報の検証と個人を危害から保護することに課題をもたらします。

オンラインセーフティ法は、Ofcomにオンラインプラットフォームを規制し、有害なコンテンツに対処するための相当な権限を付与しています。これには、企業への罰金、ウェブサイトへのアクセス遮断、およびユーザーを保護するための失敗に対する個々の幹部の責任追及の可能性が含まれます。この法律は、オンラインの安全のための枠組みを確立し、プラットフォームに違法なコンテンツの削除とユーザーを有害から保護することを義務付けることを目的としています。

この状況は、AIの規制とその社会への潜在的な影響に関する継続的な議論を浮き彫りにしています。AI技術が進化し続けるにつれて、政策立案者と規制当局は、イノベーションと、その誤用に関連する潜在的な危害から個人を保護する必要性とのバランスをどのように取るかについて苦慮しています。Ofcomの調査の結果と、Xに対して取られるその後の措置は、英国がオンラインプラットフォーム上のAI生成コンテンツをどのように規制するかについて、先例となる可能性があります。規制当局は現在、証拠を検討し、オンラインセーフティ法に基づく権限の全範囲を考慮して、適切な行動方針を決定することが期待されています。