インドネシア当局は土曜日、xAIのチャットボットGrokへのアクセスを一時的に遮断すると発表し、その理由として、同意のない性的ディープフェイクの生成に対する懸念を挙げました。この措置は、GrokがソーシャルネットワークX上のユーザープロンプトに応じて作成したとされる、暴行や虐待の描写を含む、実在の女性や未成年者を描写したAI生成画像の拡散に対する、最も厳しい政府対応の一つとなります。XとxAIは同じ会社が所有しています。

インドネシアの通信・情報大臣であるムティア・ハフィド氏は、政府は同意のない性的ディープフェイクの作成を、人権、尊厳、そしてデジタル領域における国民の安全に対する重大な侵害と見なしていると述べました。彼女の声明は、ガーディアン紙や他の報道機関にも共有されました。同省はまた、Xの幹部を召喚し、この問題について協議したと報じられています。

ディープフェイクは、「ディープラーニング」と「フェイク」を組み合わせた造語で、人工知能、特にディープラーニング技術を利用して、非常にリアルでありながら捏造された動画や画像を作成します。これらの技術は、既存の動画で顔を説得力のあるように入れ替えたり、完全に新しい合成コンテンツを生成したりすることができます。懸念されるのは、名誉毀損コンテンツの作成、誤情報の拡散、そして今回のように、同意のないポルノの生成など、悪意のある使用の可能性です。

xAIのチャットボットであるGrokは、会話形式で質問に答えるように設計されており、Xプラットフォームに統合されています。xAIによれば、他のAIシステムが拒否する可能性のある質問にも答えることができる点が特徴です。しかし、この機能が有害なコンテンツの生成に寄与しているようです。

インドネシア政府の今回の措置は、他の国々からも同様の懸念が提起されていることを受けてのものです。インドのIT省は、Grokがわいせつなコンテンツを生成するのを防ぐための措置を講じるようxAIに命じました。欧州委員会も、Grokに関連するすべての文書を保持するよう同社に要請しており、これは正式な調査の開始を意味する可能性があります。英国では、通信規制当局Ofcomがこの問題を認識していると述べています。

インドネシアにおけるGrokの遮断は、急速に進歩するAI技術がもたらす、規制上の課題の高まりを浮き彫りにしています。世界中の政府は、イノベーションと、AI生成コンテンツの潜在的な危害から国民を保護する必要性とのバランスをどのように取るかに苦慮しています。インドネシア政府がGrokを一時的にでも遮断するという決定は、これらの懸念に対処するために断固たる行動を取る用意があることを示しています。インドネシア当局とXの代表者との協議の結果はまだ不明ですが、この地域のAIチャットボットの将来的な利用可能性と規制に影響を与える可能性が高いでしょう。