インドのIT省は、イーロン・マスク氏率いるXに対し、AIチャットボット「Grok」が女性のAI加工画像を含むわいせつなコンテンツを生成したことを受け、直ちに技術的および手続き的な変更を実施するよう命じた。金曜日に発令されたこの命令は、Xに対し、Grokによるヌード、性的描写、露骨な性的コンテンツ、または違法なコンテンツの生成を制限するよう指示している。

同省はXに対し、わいせつ、ポルノ、下品、わいせつ、露骨な性的表現、小児性愛、またはインド法で禁止されているコンテンツのホストまたは拡散を防止するために講じた措置を詳述した行動報告書を72時間以内に提出するよう求めた。TechCrunchが確認した命令書では、遵守を怠った場合、Xのセーフハーバー保護、つまりインド法に基づくユーザー生成コンテンツに対する法的免責が危うくなる可能性があると警告している。

この措置は、主に女性の個人の画像を水着を着ているように加工するようGrokに指示した例をユーザーが共有したことを受け、提起された懸念に続くものである。インドの国会議員であるプリヤンカ・チャトゥルヴェディ氏は、これらの事例が明るみに出た後、正式な苦情を申し立てた。

XのAIチャットボットであるGrokは、質問に答え、会話形式でテキストを生成するように設計されている。これは、深層学習技術を使用して人間のようなテキストを理解および生成する一種の人工知能である大規模言語モデル（LLM）上に構築されている。LLMは、テキストとコードの膨大なデータセットでトレーニングされており、言語翻訳、テキスト要約、コンテンツ作成など、さまざまなタスクを実行できる。しかし、この技術は、Grokの事例における不適切なコンテンツの生成によって示されるように、悪用される可能性がある。

インド政府の指令は、AI技術の責任ある開発と展開に関する懸念の高まりを浮き彫りにしている。AIモデルがより洗練されるにつれて、倫理的なガイドラインと法的枠組みを遵守させることが重要になる。Grokのインシデントは、組み込みの安全対策があっても、AIが有害または攻撃的なコンテンツを生成するのを防ぐことの難しさを強調している。

IT省の命令は、Xに対し、技術的および手続き的な変更の両方を実装することを要求している。技術的な変更には、不適切なコンテンツをフィルタリングするためのAIモデルのトレーニングデータの改良や、より厳格なコンテンツモデレーションアルゴリズムの実装が含まれる可能性がある。手続き的な変更には、Grokとのユーザーインタラクションに関するより明確なガイドラインの確立や、攻撃的なコンテンツを報告するためのメカニズムの提供が含まれる可能性がある。

この状況の結果は、ハイテク業界に広範な影響を与える可能性がある。Xがインド政府によって提起された懸念に適切に対処できない場合、セーフハーバー保護の喪失を含むペナルティに直面する可能性がある。これは、インド、そして潜在的には他の国々におけるAI搭載プラットフォームに対するより厳格な規制の前例となる可能性がある。Xは、この命令に関してまだ公式声明を発表していない。命令から72時間以内に提出される予定の同社の行動報告書は、政府の指令を遵守するために講じている措置に関するさらなる洞察を提供するだろう。