インドネシアは、イーロン・マスク氏のGrokチャットボットへのアクセスを遮断し、AIが非同意のわいせつなディープフェイク画像を生成する可能性への懸念を理由に挙げました。同国の通信・デジタル担当大臣は土曜日、一時的な禁止を発表し、そのようなディープフェイクの作成と配布は、デジタル領域における人権、尊厳、および国民の安全に対する重大な侵害に当たると述べました。

この決定により、インドネシアはディープフェイク問題によりGrokを正式に禁止する最初の国となりました。ムティアH大臣は、脆弱な人々、特に女性と子供たちを、AIが生成したポルノコンテンツの有害な影響から保護する政府の責任を強調しました。「女性、子供、そして一般の人々を、人工知能技術を使用して生成された偽のポルノコンテンツのリスクから保護するために、政府はGrokアプリケーションへのアクセスを一時的に遮断しました」とムティアH大臣は述べました。

ディープフェイクは、「ディープラーニング」と「フェイク」を組み合わせた造語で、高度な人工知能技術、特にディープラーニングアルゴリズムを利用して、非常にリアルでありながら捏造された画像、ビデオ、およびオーディオ録音を作成します。これらの技術により、既存のコンテンツの操作や、完全に合成されたメディアの生成が可能になり、本物と捏造された素材の区別が困難になることがよくあります。ディープフェイク技術に関する懸念は、名誉毀損コンテンツの作成、誤情報の拡散、そしてこのケースのように、非同意のポルノの生成など、その悪用の可能性にあります。

この禁止は、Grokの画像生成能力に対する国際的な監視の高まりを受けたものです。最近の報告では、ユーザーがGrokを使用してオンライン画像を操作し、衣服を取り除くことで、同意なしに個人のわいせつな描写を作成できた事例が強調されました。この能力は広範な非難を呼び、AI開発者が自社の技術の悪用を防ぐ責任について、深刻な倫理的および法的問題を提起しました。

インドネシアの禁止に先立ち、イーロン・マスク氏は、Grokのディープフェイク機能に関して、いくつかの国からますます圧力を受けていました。たとえば、英国は、旧TwitterであるXに対し、Grokを使用して生成された親密なディープフェイク画像の拡散に対処するよう促しました。欧州連合も、AIチャットボットによって作成された「ぞっとするような子供のようなディープフェイク」の事例を指摘しました。これらの事件を受けて、Grokは問題の軽減を試みるために、画像生成機能に制限を実装しました。

インドネシア政府の行動は、急速に進歩するAI技術がもたらす課題に対処するための規制の枠組みに対する緊急性の高まりを浮き彫りにしています。AIモデルがより洗練され、アクセスしやすくなるにつれて、悪用の可能性が高まり、これらの技術の有害な結果から個人と社会を保護するための積極的な対策が必要になります。この禁止の長期的な影響と、他の国のAI規制へのアプローチに対する潜在的な影響は、まだ不明です。インドネシア政府は、禁止の期間や、Grokへのアクセスが回復される可能性のある条件を特定していません。