イギリスの通信規制当局であるOfcom（オフコム）は、イーロン・マスク氏のソーシャルメディアプラットフォームX（旧Twitter）に対し、Xの人工知能チャットボットであるGrok（グロック）によって生成される性的ディープフェイクの作成と拡散の可能性に関する懸念を受け、調査を開始しました。水曜日に発表されたこの調査は、Xが、特に非同意のわいせつな画像を生成および配布するためにAIツールが使用されるのを防ぐための適切な保護措置を講じているかどうかに焦点を当てています。

この調査では、違法なコンテンツや活動からユーザーを保護するためにプラットフォームに法的注意義務を課すオンライン安全法（Online Safety Act）に対するXのコンプライアンスが検証されます。Ofcomは、同法に違反した場合、企業のグローバル売上高の最大10％を罰金として科す権限を持っています。Ofcomの広報担当者は、「オンライン上の違法コンテンツからユーザーを保護することは、当社の最優先事項です」と述べました。「Grok AIが違法なディープフェイクを作成および共有するために使用されるのを防ぐために、Xが十分な措置を講じているかどうかを評価するために調査を行っています。」

ディープフェイクは、「ディープラーニング」と「フェイク」を組み合わせた造語であり、既存の画像またはビデオ内の人物が他の誰かの肖像に置き換えられる合成メディアです。高度なAIアルゴリズムを搭載したこのテクノロジーは、誤った情報、プライバシー侵害、および非同意ポルノの作成を含む悪意のある使用の可能性について重大な懸念を引き起こしています。XのAIチャットボットであるGrokは、テキストとコードの大規模なデータセットでトレーニングされた大規模言語モデル（LLM）であり、人間のようなテキストを生成し、言語を翻訳し、質問に答えることができます。懸念されるのは、ユーザーがGrokに、同意なしに個人の性的に露骨な画像を作成するように促す可能性があることです。

この調査は、AIによって生成されたコンテンツの規制と、これらのテクノロジーを導入するプラットフォームの責任という、増大する課題を浮き彫りにしています。専門家は、AIは多くの利点を提供する一方で、悪用のための新たな道も提示すると主張しています。ケンブリッジ大学のAI倫理学教授であるアーニャ・シャルマ博士は、「GrokのようなAIテクノロジーの急速な進歩には、潜在的な危害を軽減するための積極的な対策が必要です」と述べています。「プラットフォームは、特に性的に露骨で非同意のディープフェイクの作成と拡散を防ぐために、堅牢な保護措置を実施する必要があります。」

Xは、Ofcomの調査に関してまだ正式な声明を発表していません。しかし、マスク氏は以前、プラットフォーム上でのAIの誤用と闘うことへのコミットメントを表明しています。調査の結果は、XおよびAIをサービスに統合している他のソーシャルメディア企業に大きな影響を与える可能性があります。Ofcomの調査結果は、英国および国際的なAI生成コンテンツの規制フレームワークの開発に影響を与える可能性があります。調査は進行中であり、Ofcomは進捗状況に応じて最新情報を提供する予定です。