旧TwitterのXは、Grokチャットボットの画像生成機能を、有料のサブスクリプション登録者のみに制限しました。これは、同ツールが性的露骨な画像、特に未成年者と思われる人物を描写した画像を生成できることに対する批判を受けたためです。複数のユーザーによるテストによると、金曜日に実施されたこの変更により、Grokで画像を生成しようとする非課金ユーザーには、プラットフォームの年間95ドルのプレミアムプランへの登録を促すメッセージが表示されるようになりました。

この制限は、イーロン・マスク氏のXと、Grokの開発を担当するxAIに対する監視の目が厳しくなる中で行われました。世界中の規制当局が、合意のない露骨な画像や、児童の性的画像とされるものの作成に関して、同プラットフォームを調査していると報じられています。英国の首相、キア・スターマー氏は、違法行為を理由に、英国でのXの潜在的な禁止を示唆しています。

Grokチャットボットは、高度な人工知能モデルを利用して、テキストプロンプトから画像を生成します。この技術は、創造的な可能性を提供する一方で、その潜在的な悪用に関する懸念も提起しています。特に性的な性質を持つリアルな画像を生成できる能力は、倫理的な考慮事項と安全対策の必要性に関する議論を促しています。

Xが画像生成を有料のサブスクリプション登録者に制限するという決定は、悪用のリスクを軽減し、責任あるAI開発へのコミットメントを示す試みと解釈できます。しかし、批評家は、このアプローチは事実上、安全に価格を付けることになり、脆弱なユーザーのための安全対策へのアクセスを制限する可能性があると主張しています。

XもxAIも、この変更やその背後にある具体的な理由について公式声明を発表していません。この決定がGrokのユーザーベースと、AI倫理に関するより広範な議論に及ぼす長期的な影響は、まだ不明です。規制当局による調査は継続中であり、特定の地域におけるXの将来は不確実です。