旧TwitterのXは、Grokの画像編集機能に限定的なペイウォールを導入しましたが、無料ユーザーは代替手段を通じて依然としてツールにアクセスできるため、この対策の有効性について疑問が生じています。この変更は、ユーザーがGrokを悪用して大量の非合意的な性的な画像を生成しているという報告が浮上したことを受け、Xが画像生成と編集を有料購読者に制限すると発表した後に実施されました。

一部のユーザーに表示されるメッセージによると、「画像生成と編集は現在、有料購読者のみに制限されています」と表示され、購読するためのリンクが提供されています。しかし、The Vergeが指摘し、Ars Technicaが検証したように、未購読のユーザーでもGrokを使用して画像を編集できます。

この制限は主に、Grokに直接返信して画像を編集しようとするユーザーに影響を与えるようです。この方法は現在、購読者に制限されていますが、無料ユーザーはデスクトップサイトを使用するか、Xアプリ内の画像を長押しすることで、画像編集機能にアクセスできます。これにより、Grokに公開で指示することなく画像を編集でき、出力結果を公開フィードから除外できます。

この状況は、AI搭載プラットフォームにおけるコンテンツモデレーションの課題を浮き彫りにしています。Grokは、他の大規模言語モデル（LLM）と同様に、膨大なデータセットから学習しますが、これには意図せずに偏見や有害なコンテンツが含まれる可能性があります。ユーザーがこれらのモデルに画像の生成や操作を指示すると、その結果はディープフェイクの作成、誤情報の拡散、または虐待的なコンテンツの生成に悪用される可能性があります。

この事件はまた、AIチャットボットを公式な会社広報担当者として扱うことの役割についても疑問を投げかけています。ペイウォールの最初の報告は、Grok自身の発言に基づいていましたが、後に不正確であることが判明しました。これは、AIソースからの情報を検証し、それらを決定的な権威として扱わないことの重要性を強調しています。

Xによって実装された部分的なペイウォールは、Grokの画像編集機能の悪用に対処するための試みです。しかし、無料ユーザーが代替手段を通じて依然としてツールにアクセスできるという事実は、この対策が完全には有効ではないことを示唆しています。Xが今後、さらなる制限を実施するか、有害な画像の生成を防ぐためにより堅牢なコンテンツモデレーション技術を開発するかは、まだ不明です。同社は、この件に関してまだ公式声明を発表していません。