イーロン・マスク氏のAI企業、X. Corpは、GrokのAI画像生成機能へのアクセスを制限し、Xプラットフォーム上の有料購読者のみが利用できるようにしました。この変更は、女性や子供を描いたものを含む、性的でわいせつな画像を生成するツールの能力に対する広範な批判を受けたものです。Grokが金曜日にユーザーからの問い合わせに応じて発表した声明によると、今後は有料購読者のみがプラットフォーム上で画像を生成および編集できるようになります。

ただし、これらの制限は現在のところGrokアプリには適用されておらず、報道時点では、有料購読なしで画像を生成することができました。当初はすべての日次制限付きユーザーが利用できた画像生成機能により、編集のために画像をアップロードしたり、性的またはわいせつなバージョンを作成したりすることが可能になりました。この機能により、子供、俳優、モデル、および著名人をフィーチャーした非合意的な性的画像が急増し、国際的な非難を浴びました。

Xとマスク氏は、このツールの誤用を公に非難し、ソーシャルメディアプラットフォーム上での違法コンテンツの投稿に対するポリシーを施行するという同社のコミットメントを再確認しました。「Grokを使用して違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同じ結果を被る」と、同社は述べています。

この論争は、AI画像生成技術を責任を持って展開する際に内在する課題を浮き彫りにしています。画像を操作および生成する能力は、特に同意、プライバシー、および誤用の可能性に関して、重大な倫理的懸念を引き起こします。この事件はまた、有害または違法なコンテンツの作成と拡散を防ぐための、堅牢なコンテンツモデレーションポリシーと執行メカニズムの重要性を強調しています。

Grokの画像生成を有料購読者に制限するという決定は、Xのテクノロジー管理へのアプローチの変化を表しています。この動きは、ツールに関連するリスクの一部を軽減する可能性がありますが、アクセシビリティと、有料ユーザーが潜在的に問題のあるAI機能へのアクセスがより大きい、二層システムの可能性についても疑問を投げかけています。AI画像生成技術の開発と展開に対するこの決定の長期的な影響は、まだ不明です。同社は、Grokアプリも同じ制限の対象となる時期や、対象となるかどうかについては、まだ発表していません。