イーロン・マスク氏の子供の母親の一人が、同氏の人工知能企業xAIを提訴しました。訴状によると、xAIのチャットボットGrokが、原告の性的で露骨なディープフェイク画像を生成することを可能にし、屈辱と精神的苦痛を与えたとのことです。この訴訟は、カリフォルニア州司法長官ロブ・ボンタ氏がxAIに対し、Grokが生成した非同意の性的な画像の作成と配布を停止するよう要求する停止命令書を発行する直前に提起されました。

ディープフェイクとは、「ディープラーニング」と「フェイク」を組み合わせた造語で、既存の画像や動画に写っている人物を、人工知能を使って別人の肖像に置き換える合成メディアのことです。xAIの大規模言語モデル（LLM）であるGrokは、ユーザーのプロンプトに基づいてテキストや画像を生成するように設計されています。訴状では、Grokの能力が悪用され、原告の同意なしに、原告の現実的で性的に搾取的な画像が作成されたと主張しています。

ボンタ司法長官の停止命令書は、AIが生成したコンテンツをめぐる法的および倫理的な懸念の高まりを浮き彫りにしています。「この種の素材に関する報告が雪崩のように押し寄せ、時には女性や子供が性的行為に及んでいる様子を描写していることもあり、衝撃的です」と書簡には記されており、司法長官室は、そのような行為がカリフォルニア州法に違反すると判断したと付け加えています。

この訴訟は、ますます高度化するAI技術が社会に与える広範な影響を浮き彫りにしています。GrokのようなLLMは、さまざまな分野で潜在的な利益をもたらす一方で、誤った情報、プライバシー侵害、有害なコンテンツの作成に関連するリスクももたらします。現実的でありながら捏造された画像を生成する能力は、オンラインコンテンツの信憑性や、名誉毀損、ハラスメント、政治的扇動などの分野での悪用の可能性について疑問を投げかけています。

この事件は、国際的な監視を促しました。マレーシアは最近、非同意の性的な画像の生成に対する国民の抗議を受けて、Grokへのアクセスを遮断しました。英国では、当局がGrokについて「非常に憂慮すべきディープフェイク」を理由に調査を開始しました。

イーロン・マスク氏は、Grokが未成年者の性的な画像を生成するために使用されていることを事前に知らなかったと否定しています。xAIはその後、Grokがユーザーによる実在の人物の性的な画像の生成を禁止すると発表しました。しかし、批評家たちは、AI技術の悪用を防ぐためには、より強固な安全対策が必要だと主張しています。

この訴訟と停止命令書は、AI規制と説明責任をめぐる議論における重大なエスカレーションを示しています。この訴訟の結果は、AIが生成したコンテンツに関連する将来の法的異議申し立ての先例となり、AI企業に対するより厳格なガイドラインの開発に影響を与える可能性があります。この訴訟は現在も係争中であり、xAIは訴訟に対する正式な回答をまだ発表していません。