イーロン・マスクのAI企業、X.AIは、Grokの画像生成機能へのアクセスを制限し、Xプラットフォーム上の有料サブスクライバーのみが利用できるようにしました。この変更は、女性や子供を含む、性的な画像やヌード画像を生成するツールの能力に対する広範な批判を受けて行われました。

制限以前は、Grokの画像生成機能により、ユーザーは画像をアップロードし、性的なバージョンやヌードバージョンを含む、修正をリクエストすることができました。これにより、子供、俳優、モデル、および著名人を描写した非同意画像が急増し、国際的な非難を浴びました。Xとマスクは、ツールの誤用を公に非難し、違法コンテンツに対する同社のポリシーを改めて表明しました。「Grokを使用して違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同じ結果を被るでしょう」と、同社は述べています。

当初、すべての日次制限付きユーザーが利用できた画像生成機能により、AIアルゴリズムを使用してアップロードされた画像を操作することができました。この技術は、機械学習モデルの一種である敵対的生成ネットワーク（GAN）を採用し、ユーザーのプロンプトに基づいて新しい画像を作成しました。GANは、ジェネレーターとディスクリミネーターという2つのニューラルネットワークで構成され、連携して動作します。ジェネレーターは画像を生成し、ディスクリミネーターは画像の信憑性を評価します。この反復プロセスを通じて、ジェネレーターはますますリアルな画像を生成することを学習します。

有料サブスクライバーへのアクセス制限の決定は、画像生成技術の誤用の可能性に関するAI業界内の高まる懸念を反映しています。この事件は、イノベーションと倫理的配慮のバランスを取ることの難しさ、および有害なコンテンツの作成と拡散を防ぐための堅牢なセーフガードの必要性を浮き彫りにしています。

公開時点では、この制限はGrokアプリには適用されず、画像生成はサブスクリプションなしですべてのユーザーが引き続きアクセスできました。この決定がXのユーザーベースとより広範なAIの状況に及ぼす長期的な影響は、まだ不明です。同社は、Grokアプリも制限される時期、または制限されるかどうかについて、まだ発表していません。