イギリスの通信規制当局であるOfcom（オフコム）は、イーロン・マスク氏のソーシャルメディアプラットフォームX（旧Twitter）に対し、Xの人工知能チャットボットであるGrok（グロック）によって生成された性的に露骨なディープフェイクの拡散に関する懸念を受け、調査を開始しました。水曜日に発表されたこの調査は、Xがオンラインセーフティ法に違反して、AIによって生成された性的コンテンツ、特にディープフェイクの作成と拡散を防ぐための適切なシステムを導入しているかどうかを中心に展開されます。

昨年可決されたオンラインセーフティ法は、ソーシャルメディアプラットフォームに対し、違法で有害なコンテンツからユーザーを保護する法的義務を課しています。Ofcomは、同法に違反した場合、企業の全世界売上高の最大10％を罰金として科す権限を持っています。これは、この新しい法律の下でAIによって生成されたコンテンツに対する最初の主要な調査の1つとなります。

「ディープラーニング」と「フェイク」を組み合わせた造語であるディープフェイクは、既存の画像や動画内の人物を別の人に置き換える合成メディアです。高度なAIアルゴリズムを搭載したこの技術は、合意のないポルノの作成や偽情報の拡散など、その悪用の可能性について重大な懸念を引き起こしています。XのAIチャットボットであるGrokは、ユーザーのプロンプトに基づいてテキストや画像を生成するように設計されています。ユーザーがGrokを悪用して、個人のリアルで性的に露骨なディープフェイクを、多くの場合、本人の知識や同意なしに作成しているという懸念が生じています。

Ofcomの広報担当者は声明の中で、「オンライン上で違法で有害なコンテンツからユーザーを保護することが最優先事項です」と述べています。「Xが、AIによって生成された性的ディープフェイクがプラットフォームにもたらすリスクに対処するために十分な措置を講じているかどうかを調査しています。これは斬新で急速に進化している分野であり、オンラインプラットフォームがそれに応じて安全対策を適応させていることを確認する必要があります。」

Xは、Ofcomの調査に関してまだ公式声明を発表していません。しかし、イーロン・マスク氏は以前、プラットフォーム上でのAIの悪用と闘うことを約束しています。同社は、ポリシーに違反するAIによって生成されたコンテンツを検出し、削除するためのある程度の対策を実施していますが、批評家はこれらの対策は不十分であると主張しています。

この調査は、AIによって生成されたコンテンツの規制と、これらの技術の悪用の可能性という、増大する課題を浮き彫りにしています。専門家は、有害なディープフェイクの作成と拡散を防ぐために、強固な安全対策と倫理的ガイドラインが必要であることを強調しています。オックスフォード大学のAI倫理学教授であるエミリー・カーター博士は、「この調査は、ソーシャルメディアプラットフォームに自社サイトでホストされているコンテンツに対する責任を問うための重要なステップです」と述べています。「企業は、AIによって生成されたコンテンツに関連するリスクに積極的に対処し、ユーザーを危害から保護する必要があるという明確なメッセージを送っています。」

Ofcomの調査結果は、XおよびAIを利用する他のソーシャルメディアプラットフォームに重大な影響を与える可能性があります。AIによって生成されたコンテンツに対する規制が強化され、監視が強化される可能性があり、オンラインの安全性とコンテンツモデレーションの将来を形作る可能性があります。Ofcomは、今後数か月以内に調査結果を発表する予定です。調査は、Xのコンテンツモデレーションポリシー、AI検出機能、およびディープフェイクコンテンツのユーザーレポートへの対応に焦点を当てる可能性があります。