イギリスの通信規制当局であるOfcom（オフコム）は、イーロン・マスク氏のソーシャルメディアプラットフォームX（旧Twitter）に対し、Xの人工知能チャットボットであるGrok（グロック）によって生成された性的露骨なディープフェイクの拡散に関する懸念を受け、調査を開始しました。水曜日に発表されたこの調査は、Xが、特に同意のない個人を描写した、これらのAI生成画像の作成と拡散を防ぐための適切なシステムを導入しているかどうかを中心に展開されます。

この調査では、Xがオンラインセーフティ法を遵守しているかどうかが評価されます。この法律は、プラットフォームに対し、違法で有害なコンテンツからユーザーを保護するための法的義務を課しています。Ofcomは特に、Xが児童性的虐待コンテンツや、同意なしにディープフェイクを作成および拡散することを含む、違法コンテンツに関する義務に違反していないかどうかを調査しています。Grokが、現実的だが捏造された性的画像を生成するために悪用される可能性に焦点が当てられており、プライバシー、評判、ハラスメントや恐喝の可能性について深刻な懸念が生じています。

ディープフェイクは、「ディープラーニング」と「フェイク」を組み合わせた造語で、既存の画像や動画に写っている人物を別人の肖像に置き換える合成メディアです。この技術は、高度なAIアルゴリズム、特に深層ニューラルネットワークを活用して、顔を説得力のあるように入れ替えたり、オーディオやビデオコンテンツを操作したりします。ディープフェイクはエンターテインメントや教育に応用できる可能性を秘めている一方で、その悪用は重大なリスクをもたらします。合意のないわいせつな画像の作成、いわゆる「リベンジポルノ」ディープフェイクは、被害者に深刻な精神的苦痛と評判の毀損をもたらす可能性があるため、ますます懸念されています。

Ofcomの広報担当者は声明で、「オンライン上の違法コンテンツから人々を保護することは優先事項です」と述べました。「Xが、プラットフォーム上での違法なディープフェイクの作成と拡散を防ぐための適切な措置を講じているかどうかを評価するために、Xを調査しています。」

Xは、Ofcomの調査に関して公式声明をまだ発表していません。しかし、イーロン・マスク氏は以前、プラットフォーム上でのAIの悪用と闘うことを約束しています。同社のポリシーでは、児童を搾取、虐待、または危険にさらすコンテンツの作成と配布を禁止しており、そのような素材を検出して削除するための対策を実施しています。しかし、批評家は、これらの対策は、AIによって生成されたディープフェイクの急速に進化する脅威に対処するには不十分であると主張しています。

この調査は、AIの悪用の可能性に対する世界的な監視の高まりの中で行われています。世界中の政府や規制機関は、AIイノベーションの利点と、個人を危害から保護する必要性とのバランスをどのように取るかについて苦慮しています。たとえば、欧州連合はAI法を最終決定しており、ディープフェイクの生成に使用されるものを含む、高リスクのAIシステムに厳格な規制を課す予定です。

Ofcomの調査結果は、Xや他のソーシャルメディアプラットフォームに重大な影響を与える可能性があります。Xがオンラインセーフティ法に違反したと判断された場合、多額の罰金が科せられ、違法コンテンツの作成と拡散を防ぐためのより強固な保護措置を実施する必要が生じる可能性があります。調査は進行中であり、Ofcomはその完了時期に関するタイムラインを提供していません。調査結果は、ソーシャルメディアプラットフォーム上のAI生成コンテンツに対する将来の規制アプローチに影響を与える可能性があります。