インドネシアは、イーロン・マスク氏のGrokチャットボットへのアクセスを遮断し、AIが非合意のわいせつなディープフェイク画像を生成する可能性への懸念を理由に挙げました。同国の通信・デジタル担当大臣は土曜日、一時的な禁止を発表し、そのようなディープフェイクの作成と配布は、デジタル領域における人権、尊厳、および市民の安全に対する重大な侵害に当たると述べました。

この決定により、インドネシアはディープフェイク問題を理由にGrokへのアクセスを公に制限する最初の国となりました。ムティアH大臣は、AIが生成したポルノコンテンツに関連する危険から、女性、子供、そしてより広範な国民を保護するという政府のコミットメントを強調しました。Grokがこれらの画像の作成を可能にした具体的なメカニズムには、ユーザーが既存のオンライン画像を改変すること、衣服の除去などが含まれていました。

「ディープラーニング」と「フェイク」を組み合わせた造語であるディープフェイクは、既存の画像やビデオに写っている人物を、人工知能を使って別人の肖像に置き換える合成メディアです。この技術は、エンターテインメントや教育などの分野で正当な応用が可能である一方、名誉毀損コンテンツの作成、誤情報の拡散、非合意ポルノの制作など、その悪用の可能性から、重大な倫理的および法的懸念を引き起こしています。

マスク氏のAI企業であるxAIが開発したGrokチャットボットは、ディープフェイクに関連する批判の波を受け、以前から画像生成機能に関して精査と制限を受けていました。英国や欧州連合の加盟国を含む他の国々も、Grokによって生成された親密なディープフェイク画像の問題について懸念を表明し、旧TwitterであるXに圧力をかけています。特にEUは、AIによって生成された「ぞっとするような子供のようなディープフェイク」の事例を指摘しました。

インドネシア政府の行動は、潜在的な危害を軽減しつつイノベーションを促進するために、AI技術を規制するという世界的な課題がますます大きくなっていることを浮き彫りにしています。この事件は、開発者がAIツールの悪用を防ぐための堅牢な安全対策を実施し、政府がディープフェイクの倫理的および社会的な影響に対処するための明確な法的枠組みを確立する必要性を強調しています。禁止措置は、インドネシア当局が有害コンテンツの生成と拡散を防ぐためのxAIの対策を評価している間、有効なままです。今後の展開としては、インドネシア当局者とxAIとの間で、Grokが国内法および倫理基準を遵守しながら国内で運営できるようにするための潜在的な解決策と安全対策に関する議論が行われる可能性があります。