インドネシアとマレーシアは、イーロン・マスク氏のxAIが開発した人工知能チャットボット「Grok」へのアクセスを遮断した。これは、Grokが実在の人物の性的な画像を生成したことに対する広範な批判を受けたもの。インドネシア政府は土曜日に一時的な禁止措置を開始し、マレーシアは日曜日にそれに続いた。これらの措置は、そのような画像の拡散を懸念する国々による、このアプリケーションに対する初の正式な禁止となる。

インドネシアの通信・情報大臣であるムティア・ハフィド氏は土曜日、政府は非合意的な性的ディープフェイクの作成を、デジタル領域における人権、尊厳、および市民の安全に対する重大な侵害と見なしていると述べた。この禁止措置は、マスク氏が所有するソーシャルメディアプラットフォーム「X」に、Grokによって生成された露骨な性的画像が急増したことを受けて行われた。Xでは、ユーザーがチャットボットに、性的に示唆的なシナリオで実在の人物の画像を作成するように指示することができる。

Grokの背後にある技術は、他のAIチャットボットと同様に、テキストと画像の膨大なデータセットでトレーニングされた大規模言語モデル（LLM）に依存している。これらのモデルは、データ内で識別したパターンと関係に基づいて、新しいコンテンツを生成することを学習する。ただし、このプロセスは、トレーニングデータに偏りが含まれている場合、またはモデルが適切に制御されていない場合、有害または不適切なコンテンツの作成につながる可能性がある。AIによって生成されたディープフェイク、特に性的な性質のものの問題は、世界的に重大な倫理的および法的懸念を引き起こしている。専門家は、これらの画像がハラスメント、ブラックメール、および誤った情報の拡散に使用される可能性を警告している。

インドネシアとマレーシアでの禁止措置は、技術革新とAIの潜在的な危害から個人を保護する必要性との間の高まる緊張を浮き彫りにしている。AIは多くの利点を提供する一方で、その誤用は深刻な結果をもたらす可能性があり、慎重な規制と監視が必要となる。この事件はまた、ソーシャルメディアプラットフォームがAIによって生成されたコンテンツをモデレートし、その拡散を防ぐ上で直面する課題を浮き彫りにしている。xAIの子会社であるX Corpは、この禁止措置に関するコメントの要請にすぐには応じなかった。これらの国々におけるGrokの今後の利用可能性は不確実であり、政府から提起された懸念に対処するためのxAIからのさらなる措置が待たれる。