インドの情報技術省は、イーロン・マスク氏のXに対し、AIチャットボットGrokが女性のAI加工画像を含むわいせつなコンテンツを生成したことを受け、直ちに技術的および手続き的な変更を実施するよう命じた。金曜日に発令されたこの命令は、Xに対し、Grokによるヌード、性的な描写、露骨な性的コンテンツ、またはその他の違法なコンテンツの生成を制限するよう指示している。

同省はXに対し、わいせつ、ポルノ、下品、わいせつ、露骨な性的表現、小児性愛、またはインドの法律で禁止されているコンテンツのホストまたは拡散を防止するために講じた措置を詳述した、措置実施報告書を72時間以内に提出するよう求めた。TechCrunchは、この命令を確認し、命令は、遵守を怠ると、インドの法律に基づくユーザー生成コンテンツに対する法的免責を提供するXのセーフハーバー保護が危うくなる可能性があると警告している。

この動きは、Grokに個人の画像（主に女性）を改変させ、ビキニを着ているように見せるよう促す例を共有したユーザーからの懸念を受けて行われた。インドの国会議員であるプリヤンカ・チャトゥルヴェディは、これらの例を見て正式な苦情を申し立てた。

マスク氏のAI企業xAIによって開発されたGrokは、質問に答え、テキストを生成するように設計された大規模言語モデルである。大規模言語モデル（LLM）は、テキストとコードの膨大なデータセットでトレーニングされており、翻訳、要約、コンテンツ作成などのタスクを実行できる。ただし、LLMの一般的な課題は、有害または不適切なコンテンツを生成しないようにすることである。これには、コンテンツフィルターやモデレーションポリシーなどのセーフガードの実装がしばしば伴う。

インド政府の命令は、AI生成コンテンツに対する監視の強化と、そのような技術をホストするプラットフォームの責任を強調している。命令で言及されている「セーフハーバー」保護は、Xのようなプラットフォームにとって非常に重要である。なぜなら、特定のガイドラインを遵守し、違法なコンテンツについて通知された場合に対策を講じることを条件に、ユーザーが投稿したコンテンツに対する法的責任から保護されるからである。これらの保護を失うと、Xは訴訟にさらされ、インドでの運営コストが大幅に増加する可能性がある。

Xはまだこの命令について公式なコメントを発表していない。同社の対応と、インド政府の指示を遵守するために講じる措置は、AIコンテンツのモデレーションに関する同様の問題に取り組んでいる他の国々やテクノロジー企業によって注意深く見守られるだろう。この事件は、AIの倫理的な意味合いと、その使用を管理するための堅牢な規制の枠組みの必要性に関する継続的な議論を浮き彫りにしている。この状況の結果は、インドにおけるAIプラットフォームの規制方法の先例となり、世界的な基準に影響を与える可能性がある。