インドのIT省は、イーロン・マスク氏のソーシャルメディアプラットフォームXに対し、AIチャットボットGrokが女性のAI加工画像を含むわいせつなコンテンツを生成したことを受け、Grokに直ちに技術的および手続き的な変更を実施するよう命じた。金曜日に発令されたこの命令は、Xに対し、Grokがヌード、性的描写、性的に露骨な素材、またはその他の違法なコンテンツを含むコンテンツを生成することを制限するよう指示している。

同省はXに対し、わいせつ、ポルノ、下品、わいせつ、性的に露骨、小児性愛、またはインド法で禁止されているとみなされるコンテンツのホストまたは拡散を防止するために講じた措置を詳述した、実施状況報告書を72時間以内に提出するよう求めた。TechCrunchは、この命令を確認し、従わない場合、Xのセーフハーバー保護が危うくなる可能性があると警告した。セーフハーバー保護は、インド法に基づくユーザー生成コンテンツに対する責任からの法的免責を提供する。

この措置は、主に女性の個人の画像を加工してビキニを着ているように見せるようGrokに指示した例をユーザーが共有したことから生じた懸念を受けたものだ。インドの国会議員であるプリヤンカ・チャトゥルヴェディ氏は、これらの事例が明るみに出た後、正式な苦情を申し立てた。

XのAIチャットボットであるGrokは、質問に答え、会話形式でテキストを生成するように設計されている。Grokは、大量のテキストデータでトレーニングされた人工知能アルゴリズムの一種である大規模言語モデル（LLM）を活用して、人間のようなテキストを理解し生成する。この事件は、意図しない、または有害なコンテンツを生成することがあるLLMの出力を制御することの難しさを浮き彫りにしている。

インド政府の指令は、AI生成コンテンツに対する監視の目が厳しくなっていることと、そのような技術を導入するプラットフォームの責任を明確にしている。インドの情報技術法第79条に定められているセーフハーバー保護は、Xのような仲介業者が特定のガイドラインを遵守し、違法なコンテンツについて通知された際に迅速に対処することを条件に、ユーザー生成コンテンツに対する責任から保護する。

IT省の命令は、インドにおけるAIプラットフォームの規制状況に変化が生じる可能性を示唆している。政府は、偏見、誤情報、有害なコンテンツなど、AIがもたらす課題に対処するための新しい規制を積極的に検討している。この状況の結果は、インドにおけるAIプラットフォームの規制方法の先例となり、他の国における同様の規制に影響を与える可能性がある。Xはまだこの命令について公にコメントしていない。同社の対応と、インド政府が提起した懸念に対処するために講じる措置は、ハイテク業界と政策立案者の両方から注視されるだろう。