旧TwitterのXは、Grok AI画像生成ツールを使用して、実在の人物が水着やその他の露出度の高い服装をしている画像をユーザーが生成することを防ぐため、プラットフォームに新たな制限を導入しました。水曜日の夜に施行されたこのポリシー変更は、Grokを使用して女性の同意なしに「服を脱がせた」写真や、X上で未成年者と思われる人物の性的な画像を生成することに対する広範な批判を受けたものです。

しかし、Xがプラットフォーム内でのGrokの画像生成に対して安全対策を導入した一方で、研究者、WIRED、その他のジャーナリストが行ったテストによると、スタンドアロンのGrokアプリとウェブサイトは、依然として同様の「服を脱がせたスタイル」の画像やポルノコンテンツを生成できるようです。一部のユーザーからは、以前のように画像や動画を作成する能力が低下したという報告もありました。

パリを拠点とする非営利団体AI Forensicsの主任研究員であるポール・ブショー氏は、Xでの制限にもかかわらず、同団体はGrok.comで依然としてフォトリアリスティックなヌード画像を生成できると述べました。「X上のGrokではできない方法でヌードを生成できます」とブショー氏は述べ、Grokを使用して性的な画像を生成することを追跡しており、X外でGrokに対して複数のテストを実施していると指摘しました。彼はさらに、「Grok Imagineに画像をアップロードして、その人物に水着を着せるように依頼すると、うまくいきます」と付け加えました。

この問題は、同じAI技術の異なるプラットフォームやバージョン間で効果的なコンテンツモデレーションを実装することの難しさを浮き彫りにしています。イーロン・マスク氏のAI企業xAIによって開発されたGrokは、DALL-E 2やMidjourneyと同様の生成AIモデルであり、テキストプロンプトから画像を生成することができます。この技術は、ディープフェイクや同意のない親密な画像を作成するなど、その潜在的な悪用について懸念を引き起こしています。

Xにおける新たな制限は、これらの懸念に対処するための試みですが、スタンドアロンのGrokアプリとウェブサイトの継続的な機能は、リスクを完全に軽減するためにはさらなる措置が必要となる可能性があることを示唆しています。xAIがスタンドアロンのGrokプラットフォームに追加の安全対策を実装するか、XがGrokを使用した有害な画像の作成を防ぐためにさらなる措置を講じるかは、まだ不明です。この状況は、AI生成コンテンツの倫理的な意味合いと、その悪用を防ぐためのテクノロジー企業の責任に関する継続的な議論を浮き彫りにしています。