英国政府は、通信規制当局であるOfcomに対し、ソーシャルメディアプラットフォームX上で違法な人工知能生成ディープフェイクに関する懸念が高まっていることを受け、可能な限りあらゆる権限を行使し、場合によっては禁止措置も検討するよう強く求めた。この措置は、XのAIモデルであるGrokを使用して、個人の衣服を取り除くなど、デジタル的に改ざんされた画像を作成することへの懸念の高まりに端を発している。

オンライン安全法に基づくOfcomの権限により、第三者がXの金融活動や英国国内でのアクセスを促進することを阻止する裁判所命令を追求することが可能になる。政府の懸念が高まっているのは、Grokが性的画像を生成するために使用される可能性、特に子供を描いた画像が生成される可能性があるためである。

キア・スターマー首相は、そのような画像の作成を非難し、「これは恥ずべきことだ。不愉快極まりない。容認されるべきではない。Ofcomがこれに関して行動を起こすことを全面的に支持する」と述べた。さらに、政府の姿勢を強調し、「これは違法だ。容認しない。あらゆる選択肢を検討するよう指示した」と付け加えた。政府関係者はBBCニュースに対し、OfcomがX上のGrokの問題に対処するために利用可能なあらゆる権限を行使することを期待していると明言した。

合成メディアの一種であるディープフェイクは、AI、特に深層学習技術を利用して、非常にリアルだが捏造された画像、ビデオ、またはオーディオ録音を作成する。この技術は、誤った情報の拡散、名誉毀損、非同意ポルノなど、重大な倫理的および社会的問題を引き起こす。画像やビデオを説得力を持って改ざんする能力は、視覚情報に対する信頼を損ない、現実と捏造を区別する上での課題を生み出す可能性がある。

オンライン安全法は、Ofcomに対し、オンライン上の有害コンテンツに対処するための重要な規制権限を付与している。これらの権限には、違法コンテンツからユーザーを保護することを怠った企業に罰金を科すことや、極端な場合には、ウェブサイトへのアクセスを遮断することが含まれる。政府がOfcomに禁止措置の検討を促していることは、ソーシャルメディアプラットフォーム上でのAIの潜在的な悪用に関する懸念の深刻さを浮き彫りにしている。

この状況は、AIの規制とその社会への潜在的な影響をめぐる継続的な議論を浮き彫りにしている。AI技術が進化し続けるにつれて、規制当局と政策立案者は、イノベーションと個人を危害から保護する必要性とのバランスを取るという課題に直面している。Ofcomの調査の結果と、Xに対して取られる可能性のあるその後の措置は、英国におけるAI生成コンテンツの規制方法の先例となり、他の国々における同様の議論に影響を与える可能性がある。規制当局は現在、証拠を評価し、オンライン安全法に基づく権限の全範囲を考慮して、適切な行動方針を決定することが期待されている。