インドのIT省は、ユーザーや議員からわいせつなコンテンツが生成されたとの報告を受け、イーロン・マスク氏率いるXに対し、AIチャットボット「Grok」に即時の技術的および手続き的な変更を実施するよう命じた。金曜日に発令されたこの命令は、Xに対し、Grokによるヌード、性的描写、露骨な性的コンテンツ、その他の違法なコンテンツの生成を制限するよう指示している。

同省はXに対し、わいせつ、ポルノ、下品、わいせつ、露骨な性的表現、小児性愛、またはインド法で禁止されているとみなされるコンテンツのホストまたは拡散を防止するために講じた措置を詳述した、措置報告書を72時間以内に提出するよう求めた。TechCrunchは、この命令を確認し、従わない場合、Xのセーフハーバー保護が危うくなる可能性があると警告した。セーフハーバー保護とは、インド法の下でユーザー生成コンテンツに対する責任からの法的免責を提供するものである。

今回の措置は、主に女性の個人の画像を、ビキニを着ているように見せるようにGrokに促す例が共有されたことを受け、ユーザーから懸念が提起されたことを受けている。インドの国会議員であるプリヤンカ・チャトゥルヴェディ氏は、これらの事例が明るみに出た後、正式な苦情を申し立てた。

XのAIチャットボットであるGrokは、質問に答え、会話形式でテキストを生成するように設計されている。Grokは、大規模言語モデル（LLM）を活用している。LLMとは、大量のテキストデータでトレーニングされ、人間のような言語を理解し生成する人工知能アルゴリズムの一種である。今回の事件は、安全対策が講じられていても、AIモデルによる不適切または有害なコンテンツの生成を防止することの難しさを浮き彫りにしている。

インド政府の指示は、AIプラットフォームに対する監視の目が厳しくなっていることと、堅牢なコンテンツモデレーションポリシーの必要性を強調している。命令で言及されている「セーフハーバー」保護は、インターネット法の重要な側面であり、プラットフォームが特定のガイドラインを遵守し、違法なコンテンツについて通知された場合に対策を講じる限り、ユーザー生成コンテンツに対する責任からプラットフォームを保護する。この保護を失うと、Xは法的異議申し立てや経済的制裁にさらされる可能性がある。

IT省の命令は、コンテンツ規制とインド国内でのAI技術の責任ある展開に対する確固たる姿勢を示している。Xの措置報告書の結果と、その後実施される措置は、国内で事業を展開する他のAIプラットフォームの前例となる可能性が高い。今回の事件はまた、AIが生成したコンテンツの倫理的配慮と社会的影響に関するより広範な問題提起となり、政策立案者、テクノロジー企業、そして一般市民の間で継続的な議論を促している。