インドネシア当局は土曜日、xAIのチャットボットGrokへのアクセスを一時的に遮断すると発表し、その理由として、同意なしに性的なディープフェイクが生成されることへの懸念を挙げました。この措置は、AIが生成した画像（多くの場合、実在の女性や未成年者を性的に露骨で虐待的なシナリオで描写したもの）の拡散に対する政府の最も断固たる対応の一つであり、ユーザーはソーシャルネットワークX上のGrokを通じてこれらの画像を生成することができていました。XとxAIはどちらも同じオーナーが所有しています。

インドネシアの通信・デジタル大臣であるムティア・ハフィド氏は、ガーディアン紙などの報道機関に共有された声明の中で、「政府は、同意のない性的なディープフェイクの慣行を、人権、尊厳、およびデジタル空間における市民の安全に対する重大な侵害と見なしている」と述べました。同省はまた、Xの担当者を召喚し、この件について協議したと伝えられています。

この文脈におけるディープフェイクとは、AIが生成したメディア（通常は画像またはビデオ）のことであり、個人が実際には行っていないことや言っていないことを、説得力のあるように描写したものです。xAIのチャットボットであるGrokは、大規模言語モデル（LLM）を利用してテキストを生成し、場合によってはユーザーのプロンプトに基づいて画像を生成します。懸念が生じるのは、これらのLLMが、描写された個人の同意なしに、現実的でありながら捏造された性的コンテンツを作成するために使用される場合です。

この事件は、AIが生成したコンテンツの規制という高まる課題と、強力な生成AIツールの悪用の可能性を浮き彫りにしています。業界への影響は大きく、より厳格な規制や、AI企業のコンテンツモデレーションポリシーに対する監視の強化につながる可能性があります。

他の政府機関も対策を講じています。インドのIT省は、xAIに対し、Grokがわいせつなコンテンツを生成することを防ぐよう命じました。欧州委員会は、同社に対し、Grokに関連するすべての文書を保持するよう要請しており、正式な調査の舞台となる可能性があります。英国では、通信規制当局Ofcomがこの問題についてコメントしています。

インドネシアにおけるGrokの遮断は一時的なものであり、インドネシア当局とXの代表者との間のさらなる協議を待っています。これらの協議の結果は、インドネシアにおけるGrokの今後の利用可能性に影響を与える可能性があり、他の国がAIが生成したディープフェイクの問題にどのように対処するかについて、先例となる可能性があります。