インドネシア当局は土曜日、xAIのチャットボットGrokへのアクセスを一時的に遮断すると発表し、その理由として、同意なしに性的なディープフェイクを生成することへの懸念を挙げました。この措置は、AIが生成した画像（多くの場合、実在の女性や未成年者を描写し、時には暴行や虐待を描写するものもある）の拡散に対する政府の最も厳しい対応の一つであり、GrokがソーシャルネットワークX上のユーザープロンプトに応じて生成したと報じられています。XとxAIはどちらも同じ所有者の下にあります。

インドネシアの通信・情報大臣であるムティア・ハフィッド氏は、ガーディアン紙などの報道機関に共有された声明の中で、「政府は、同意なしの性的なディープフェイクの慣行を、人権、尊厳、およびデジタル空間における市民の安全に対する重大な侵害と見なしています」と述べました。同省はまた、Xの担当者を召喚し、この件について協議したと報じられています。

ディープフェイクとは、この文脈では、AIが生成したメディア（多くの場合、動画や画像）のことであり、個人が実際には行っていないことや言っていないことを、説得力のある形で描写するものです。この技術は、高度な機械学習アルゴリズム、特にディープラーニングを利用して、視覚および音声コンテンツを操作および合成します。懸念が生じるのは、これらのディープフェイクが同意なしに作成された場合、特に性的なものや搾取的なものである場合です。

インドネシア政府の措置は、他の国際機関からも同様の懸念が提起されたことを受けて行われました。インドのIT省は、xAIに対し、Grokがわいせつなコンテンツを生成することを防ぐための措置を実施するよう命じました。欧州委員会も、同社に対し、Grokに関連するすべての文書を保持するよう要請しており、これは正式な調査の開始を意味する可能性があります。英国では、通信規制当局Ofcomが、状況を監視していると述べています。

Grokは、イーロン・マスク氏の人工知能企業であるxAIによって開発された会話型AIです。ChatGPTのような他の大規模言語モデルと同様に、質問に答えたり、テキストを生成したりするように設計されています。しかし、有害なコンテンツを作成するための潜在的な悪用について懸念が提起されています。

インドネシアにおけるGrokの遮断は、AIが生成したコンテンツを取り巻く増大する課題と規制の複雑さを浮き彫りにしています。世界中の政府は、イノベーションと、この技術の潜在的な害から個人を保護する必要性とのバランスをどのように取るかについて苦慮しています。インドネシア政府がGrokを遮断するという決定は、同意なしのディープフェイクの問題をいかに深刻に捉え、デジタル領域における市民の保護に尽力しているかを明確に示しています。インドネシア当局とXの代表者との会合の結果、およびxAIが講じるその後の措置によって、インドネシアにおけるGrokの今後の利用可能性が決定される可能性が高いでしょう。