複数の米国の議員が、X、Meta、Alphabet、Snap、Reddit、TikTokなどの大手テクノロジー企業に対し、プラットフォーム上での性的ディープフェイクの拡散を阻止するための取り組みについて説明を求めています。議員らは各社の幹部宛に送付した書簡の中で、AIが生成した性的画像を抑制するために設計された強固な保護策とポリシーの証拠を要求しました。

議員らはまた、性的でAIが生成した画像の作成、検出、モデレーション、収益化に関連するすべての文書と情報を、関連するポリシーとともに保存するよう各社に義務付けました。この要求は、XとxAIが開発したGrokなどのAIモデルが、女性や子供を描いたものを含む、性的でヌードな画像をいかに簡単に生成できるかを強調する報道を受けたものです。

この書簡は、非合意的な性的画像に対する既存のプラットフォームの保護策が不十分である可能性への懸念を強調しています。「多くの企業が非合意的な親密な画像や性的搾取に対するポリシーを維持しており、多くのAIがそうであると認識していますが」と議員らは述べ、現在の対策が問題に適切に対処できていないことを示唆しています。

この情報要求は、XがGrokのアップデートを発表し、AIが現実に存在する人物の露出度の高い服装の編集を作成することを禁止した直後に行われました。Xはまた、Grokを介した画像の作成と編集を有料のサブスクライバーに制限しました。これらの変更は、AIが露骨なコンテンツを生成する能力を詳述したメディアの報道に対応して実施されました。

人工知能を利用して現実的だが捏造された画像や動画を作成するディープフェイクは、テクノロジー企業にとって大きな課題となっています。この技術は、非合意的な親密な画像を生成するために使用され、オンラインハラスメントや搾取を助長する可能性があります。議員らの調査は、AIがこの方法で悪用される可能性と、これらのリスクを軽減するためのテクノロジー企業の責任に対する懸念の高まりを反映しています。

議員らは、性的ディープフェイクを検出および削除するための各社の戦略に関する詳細な説明と、そのようなコンテンツの作成および配布にテクノロジーが使用されるのを防ぐ方法に関する情報を求めています。要求された文書は、この問題に対処する上で伴う技術的な課題と政策的な考慮事項に関する洞察を提供する可能性があります。今後のステップとしては、各社が議員らの質問に回答し、その回答に基づいてさらなる精査に直面する可能性があります。