イギリスの通信規制当局であるOfcom（オフコム）は、イーロン・マスク氏のソーシャルメディアプラットフォームX（旧Twitter）に対し、Xの人工知能チャットボットであるGrok（グロック）によって生成された性的に露骨なディープフェイクの拡散に関する懸念を受け、調査を開始しました。水曜日に発表されたこの調査は、XがAIツールによって生成された有害なコンテンツから、特に子供たちを適切に保護しているかどうかを中心に展開されます。

この調査では、Xがオンラインセーフティ法を遵守しているかどうかが検証されます。オンラインセーフティ法は、プラットフォームに対し、違法かつ有害なコンテンツからユーザーを保護する法的義務を課しています。Ofcomは特に、AIが生成した性的ディープフェイクを特定し削除するためのXのシステムとプロセスの有効性、およびユーザーがそのような素材にさらされるのを防ぐための対策を評価します。

ディープフェイクとは、「ディープラーニング」と「フェイク」を組み合わせた造語で、既存の画像や動画内の人物を別人の容姿に置き換える合成メディアのことです。この技術は、高度なAIアルゴリズムによって実現され、現実的でありながら完全に捏造されたコンテンツを作成するために使用できます。ディープフェイクには、エンターテインメントや教育など、さまざまな潜在的な応用例がありますが、特に非合意的なポルノを作成したり、偽情報を拡散したりするために使用される場合、重大なリスクも伴います。説得力のあるディープフェイクが容易に作成および拡散できるようになったことで、個人や社会に危害を加える可能性について深刻な懸念が高まっています。

Ofcomの広報担当者は声明で、「オンラインでの子供たちの保護は譲れないものであり、オンラインセーフティ法はプラットフォームに責任を負わせるための手段を提供します」と述べました。「Xが有害なAI生成コンテンツの拡散を防ぐために必要な措置を講じていることを確認するため、調査を行っています。」

Xは、Ofcomの調査に関して公式声明をまだ発表していません。しかし、イーロン・マスク氏は以前、Xはプラットフォーム上での有害なコンテンツの拡散と闘うことに尽力しており、コンテンツモデレーションシステムを積極的に改善していると述べています。

この調査は、AIが生成したコンテンツに関連する潜在的な危害に対する世界的な監視が高まる中で行われています。世界中の政府や規制機関は、イノベーションを促進しながら、この急速に進化する技術をどのように規制するかについて苦慮しています。たとえば、欧州連合はAIの開発と展開のための包括的な法的枠組みを確立するAI法を最終決定しています。

Ofcomの調査結果は、Xや、AIをサービスにますます組み込んでいる他のソーシャルメディアプラットフォームに大きな影響を与える可能性があります。Ofcomが、Xが有害なAI生成コンテンツからユーザーを適切に保護できていないと判断した場合、多額の罰金が科せられ、より厳格なコンテンツモデレーション対策の実施を要求される可能性があります。調査は進行中であり、Ofcomは今後数か月以内に調査結果の最新情報を提供する予定です。