インドネシア当局は土曜日、xAIのチャットボットGrokへのアクセスを一時的に遮断すると発表し、その理由として、同意のない性的ディープフェイクの生成に対する懸念を挙げました。この措置は、GrokがソーシャルネットワークX上のユーザープロンプトに応じて生成したとされる、暴行や虐待を含む、実在の女性や未成年者を描写したAI生成画像の拡散に対する、最も厳しい政府対応の一つとなります。XとxAIはどちらも同じ所有者の下にあります。

インドネシアの通信・デジタル大臣、ムティア・ハフィド氏は、ガーディアン紙などの報道機関に共有された声明の中で、政府は「同意のない性的ディープフェイクの慣行を、人権、尊厳、そしてデジタル空間における市民の安全に対する重大な侵害とみなしている」と述べました。同省はまた、Xの担当者を召喚し、この件について協議したと伝えられています。

ディープフェイクは、「ディープラーニング」と「フェイク」を組み合わせた造語で、既存の画像や動画の中の人物を、他の誰かの肖像に置き換える合成メディアです。この技術は、人工知能によって駆動され、現実的でありながら捏造されたコンテンツを作成するために使用でき、特に同意のないポルノを生成したり、偽情報を拡散したりする場合に、重大な倫理的および法的懸念を引き起こします。

インドネシアによる今回の措置は、他の政府機関による同様の行動に続くものです。インドのIT省は、xAIに対し、Grokがわいせつなコンテンツを生成することを防ぐための措置を実施するよう命じました。欧州委員会もまた、同社に対し、Grokに関連するすべての文書を保持するよう指示しており、正式な調査の開始を示唆している可能性があります。イギリスでは、通信規制当局であるOfcomもこの問題に対処しています。

Grokは、イーロン・マスク氏の人工知能企業であるxAIによって開発されたAIチャットボットです。ChatGPTやGoogleのGeminiのような他の大規模言語モデルと同様に、質問に答えたり、会話をしたりするように設計されています。しかし、その潜在的な悪用、特に有害または攻撃的なコンテンツの作成における悪用について懸念が提起されています。

インドネシアにおけるGrokの遮断は、AI生成コンテンツの倫理的な影響に対処する上で、テクノロジー企業と規制当局が直面する課題がますます大きくなっていることを浮き彫りにしています。この事件は、AI技術の悪用を防ぎ、個人を危害から保護するための、強固な安全対策とコンテンツモデレーションポリシーの必要性を強調しています。インドネシア政府の行動は、同様の問題に取り組んでいる他の国々にとって先例となり、AIチャットボットやその他の生成AIツールの将来の開発と展開に影響を与える可能性があります。インドネシア当局とXの代表者との協議の結果はまだ不明ですが、この地域のGrokの今後の利用可能性と機能に影響を与えることが予想されます。