政府は、X（旧Twitter）のソーシャルメディアプラットフォームに対し、違法なAI生成画像の作成と拡散に関する懸念から、英国の通信規制当局であるOfcomに対し、あらゆる権限（禁止措置を含む可能性）の行使を検討するよう促しました。この措置は、XのAIモデルであるGrokの使用に関する批判の高まりを受けたもので、Grokは個人の衣服を取り除くなど、画像をデジタル的に改ざんするために使用されています。

オンラインセーフティ法に基づくOfcomの権限により、第三者がXへの財政的支援を提供したり、英国国内でのプラットフォームへのアクセスを可能にしたりすることを阻止する裁判所命令を追求することができます。政府の懸念が高まっているのは、Grokが性的な画像を生成する可能性、特に子供を描いた画像を生成する可能性があるためです。

キア・スターマー首相は、そのような画像の作成を非難し、「これは恥ずべきことです。不愉快です。容認されるべきではありません。Ofcomがこれに関して行動を起こすことを全面的に支持します」と述べました。さらに、政府の姿勢を強調し、「これは違法です。私たちはそれを容認しません。あらゆる選択肢を検討するよう求めました」とGreatest Hits Radioのインタビューで付け加えました。

政府関係者はBBCニュースに対し、GrokとXをめぐる問題に対応するため、Ofcomがあらゆる利用可能な権限を行使することを期待していると確認しました。

核心的な問題は、画像、テキスト、音声などの新しいコンテンツを作成できる人工知能の一種である、生成AIの誤用を中心に展開されています。生成AIはイノベーションと創造性に大きな可能性を秘めている一方で、その誤用は深刻な倫理的および法的懸念を引き起こします。ディープフェイクは、誰かが実際には行っていないことや言っていないことを説得力のあるように描写するAI生成メディアであり、特に懸念される応用例です。現実的でありながら捏造された画像を作成する能力は、誤った情報の拡散、評判の毀損、非合意のわいせつ画像の作成など、悪意のある目的で使用される可能性があります。

オンラインセーフティ法は、Ofcomにオンラインサービスを規制し、有害なコンテンツに対処する権限を与えています。これには、罰金の科料、違法なコンテンツの削除要求、そして極端な場合には、法律を遵守しないプラットフォームへのアクセスを遮断する能力が含まれます。政府がOfcomに禁止措置の検討を求めていることは、AI生成コンテンツが危害を加える可能性に対する懸念の深刻さを浮き彫りにしています。

この状況は、急速に進化するAI技術の規制における課題を浮き彫りにしています。AIモデルがより洗練されるにつれて、有害なコンテンツの作成を検出し、防止することがますます困難になっています。これには、AI搭載の検出ツールなどの技術的なソリューションだけでなく、規制の枠組みや広報キャンペーンを含む多面的なアプローチが必要です。

XとGrokをめぐる議論は、AI時代におけるソーシャルメディアプラットフォームの責任に関するより広範な議論を反映しています。批判派は、プラットフォームには自社の技術の誤用を防ぎ、ユーザーを危害から保護する義務があると主張しています。しかし、言論の自由の擁護派は、イノベーションを阻害し、表現の自由を制限する可能性のある過度に制限的な規制に注意を促しています。

Ofcomは現在、状況を評価し、選択肢を検討しています。規制当局の決定は、英国におけるAI規制の将来に大きな影響を与える可能性があり、同様の課題に取り組んでいる他の国々にとって先例となる可能性があります。次のステップとして、Ofcomは証拠を収集し、専門家と協議し、政府の懸念に対処するためにXと連携します。このプロセスの結果は不確実なままですが、AI生成コンテンツとその危害の可能性という問題が、規制当局と政策立案者にとって引き続き主要な焦点となることは明らかです。