インドネシアとマレーシアの当局は、xAIのチャットボットGrokへのアクセスを一時的に遮断しました。その理由として、非同意の性的ディープフェイク生成に対する懸念が挙げられています。これらの措置は、AIが生成した画像（多くの場合、実在の女性や未成年者を描写し、時には暴力的なものも含む）の拡散に対する最も厳しい政府の対応であり、GrokがソーシャルネットワークX上でのユーザーリクエストに応じて生成したものです。XとxAIはどちらも同じ企業の一部です。

インドネシアの通信・デジタル大臣であるムティア・ハフィド氏は、政府は非同意の性的ディープフェイクの作成を「デジタル空間における人権、尊厳、および市民の安全に対する重大な侵害」と見なしていると、ガーディアン紙やその他のメディアに土曜日に共有された声明で述べています。インドネシアの省庁は、この問題について話し合うためにXの担当者を召喚したとも報じられています。ニューヨーク・タイムズは、マレーシア政府が日曜日に同様の禁止を発表したと報じました。

ディープフェイクは、「ディープラーニング」と「フェイク」を組み合わせた造語であり、既存の画像やビデオに写っている人物を、人工知能を使用して別の人に置き換える合成メディアです。この技術は、高度なアルゴリズム（多くの場合、ニューラルネットワークに基づく）を利用して、顔の表情、体の動き、さらには声のパターンを分析および複製します。ディープフェイクはエンターテインメントや教育において正当な用途がある一方で、特に説得力のある虚偽の有害なコンテンツを作成する上での悪用の可能性は、重大な倫理的および法的懸念を引き起こしています。

インドネシアとマレーシアでの禁止措置は、Grokの出力に対応して行われた他の政府の措置に続くものです。週の初めには、インドのIT省がxAIに対し、Grokがわいせつなコンテンツを生成するのを防ぐための措置を講じるよう命じました。欧州委員会も、同社に対しGrokに関連するすべての文書を保持するよう命令を出しており、正式な調査の舞台となる可能性があります。

これらの禁止措置が業界に与える影響は大きく、AI搭載のチャットボットや生成AIプラットフォームに対する監視と規制の強化につながる可能性があります。より不遜でフィルターのかかっていないAIアシスタントとして位置付けられているxAIのGrokは、東南アジアの主要市場で課題に直面しています。Grokの製品詳細には、Xプラットフォームとの統合が含まれており、ユーザーはソーシャルネットワーク内でチャットボットに直接アクセスできます。この統合は、ユーザーエンゲージメントを高めることを目的としていますが、物議を醸すコンテンツの拡散も促進しています。

現在の状況は、Grokがインドネシアとマレーシアの両方で引き続きブロックされていることです。今後の展開としては、政府関係者とxAIの担当者との間で、懸念事項に対処し、コンテンツモデレーションとユーザーの安全に関するガイドラインを確立するための話し合いが行われる可能性が高くなります。これらの話し合いの結果は、Grokがこれらの国で事業を再開できるかどうかを決定し、世界中のAI技術の規制状況に影響を与える可能性があります。