マレーシアとインドネシアは、イーロン・マスク氏のXプラットフォームが開発した人工知能チャットボット「Grok」へのアクセスを遮断した。性的露骨なディープフェイクを生成する能力への懸念が理由だ。週末に両国の通信省が発表したこの措置は、AIツールを禁止した初の事例となる。

Grokは、ユーザーが画像を生成できる機能を持つが、実在の人物を露骨な状況や同意のない状況で描いたディープフェイクを作成するために悪用されていると伝えられている。マレーシア通信マルチメディア委員会は日曜日に、Grokの「繰り返される悪用」を防ぐためのより厳格な措置を講じるよう、今年初めにXに通知を出していたことを明らかにした。マレーシアとインドネシアは共に、Grokが女性や子供を含むポルノ画像を生成するために悪用される可能性があるという懸念を表明した。

高度なAI技術の産物であるディープフェイクは、高度なアルゴリズムを利用して視覚および音声コンテンツを操作または生成し、現実と虚構の境界線を曖昧にする。Grokを動かすような生成AIモデルは、膨大な画像とテキストのデータセットから学習し、学習したデータに酷似した新しいコンテンツを作成できる。この能力は、創造的な可能性を提供する一方で、特に非同意ポルノや偽情報の作成における悪用に関する倫理的な懸念も提起する。

マレーシアとインドネシアでの禁止措置は、急速に進歩するAI技術によってもたらされる規制上の課題の高まりを浮き彫りにしている。世界中の政府は、イノベーションと国民を潜在的な危害から保護する必要性とのバランスをどのように取るかについて苦慮している。この事件はまた、AI開発者が自社のツールの悪用を防ぐための安全策を実施する責任についても疑問を投げかけている。

Grokの遮断の決定は、言論の自由と検閲に関する議論を巻き起こしている。英国では、ミシェル・ドネラン技術相が同様の禁止を支持する意向を示しており、イーロン・マスク氏から批判を浴び、政府が言論の自由を抑圧しようとしていると非難した。この議論は、技術の進歩、倫理的配慮、社会的な価値観の間の複雑な相互作用を浮き彫りにしている。

マレーシアとインドネシアにおけるGrokの現在の状況は、アクセスが遮断されていることだ。今後の展開としては、Xと両国政府との間で、提起された懸念に対処し、有害なディープフェイクの作成を防ぐための措置を講じる可能性について話し合いが行われるだろう。この事件はまた、他の国々におけるAI技術に対するさらなる規制措置を促す可能性もある。