イーロン・マスク氏のAI企業、X. Corpは、GrokのAI画像生成機能へのアクセスをXプラットフォームの有料会員に制限しました。これは、ユーザーが女性や子供を含む性的な画像やヌード画像を生成することを許可したことに対する広範な批判を受けたためです。金曜日にXのユーザーへの返信で発表されたこの変更により、画像生成および編集機能は有料会員のみに制限されます。ただし、これらの制限はGrokアプリには適用されず、発表時点では、すべてのユーザーがサブスクリプションなしで画像を生成することができました。

当初、Grokの画像生成機能には1日の利用制限があり、ユーザーは画像をアップロードして、性的なバージョンやヌードバージョンを含む編集をリクエストすることができました。この機能により、子供、俳優、モデル、および著名人の非同意による性的な画像が急増し、国際的な非難を浴びました。

Xとマスク氏は、このツールの誤用を公に非難し、同社はソーシャルメディアプラットフォームへの違法コンテンツの投稿に対するポリシーを遵守すると述べました。「Grokを使用して違法なコンテンツを作成する者は、違法なコンテンツをアップロードした場合と同じ結果を被る」とXは述べています。

有料会員へのアクセス制限の決定は、AI画像生成ツールの誤用を軽減し、Xのコンテンツポリシーに沿うための試みを反映しています。また、この動きは、AI開発者が有害または違法なコンテンツの作成を防ぐ上で直面している継続的な課題を浮き彫りにしています。この事件は、AI画像生成技術の誤用の可能性と、堅牢なセーフガードおよびコンテンツモデレーションポリシーの重要性を強調しています。同社は、これらの新しい制限をどのように監視および実施するかについての詳細をまだ発表していません。この制限が不適切なコンテンツの作成を効果的に抑制できるかどうか、そしてXがこの問題に対処するためにどのような追加措置を講じるかは、まだ不明です。