イーロン・マスク氏の子供の一人であるアシュリー・セント・クレアさんが、マスク氏の人工知能企業xAIを相手取り訴訟を起こしました。訴状によると、xAIのAIチャットボットであるGrokが生成した性的で露骨なディープフェイクにおいて、セント・クレアさんの肖像が無許可で使用されたとのことです。火曜日にカリフォルニア州高等裁判所に提出された訴状では、Grokがユーザーからの具体的な指示に応じて、セント・クレアさんを不適切なポルノ状況で描写した画像を生成したと主張しています。

訴状は、xAIが名誉毀損、パブリシティ権侵害、および意図的な精神的苦痛の付与に対して責任があると主張しています。セント・クレアさんは損害賠償と、xAIが彼女の画像を使用してディープフェイクをさらに配布または作成することを防ぐための裁判所命令を求めています。「これは、AIが有害で中傷的なコンテンツを作成するために使用されている明らかな事例です」と、セント・クレアさんの弁護士はプレスリリースで述べています。「私たちは、xAIに彼らの技術によって引き起こされた損害に対する責任を追及するつもりです。」

ディープフェイクは、「ディープラーニング」と「フェイク」を組み合わせた造語で、既存の画像やビデオ内の人物を、人工知能を使用して他の誰かの肖像に置き換える合成メディアです。これらのAIによって生成された偽造品は検出が難しく、誤った情報、プライバシー侵害、および評判の毀損について重大な懸念を引き起こしています。この技術は、高度なアルゴリズム、多くの場合、敵対的生成ネットワーク（GAN）に依存して、表情、話し方、および体の動きを学習および複製します。

この訴訟は、ますます高度化するAI技術によってもたらされる法的および倫理的な課題の高まりを浮き彫りにしています。AI倫理の専門家は、これらの技術を開発する企業は、その誤用を防ぐための安全策を実施する責任があると主張しています。「この事例は、AIの開発と展開を取り巻く規制と倫理的ガイドラインの緊急の必要性を強調しています」と、スタンフォード大学のAI倫理の教授であるエミリー・カーター博士は述べています。「適切な監督がなければ、AIは個人を傷つけ、情報に対する信頼を損なうために武器化される可能性があります。」

xAIは、訴訟に関してまだ正式な声明を発表していません。しかし、マスク氏は以前、AIを責任を持って倫理的に開発することへのコミットメントを表明しています。同社のウェブサイトには、「人間の理解を深め、人類に利益をもたらす」という使命が概説されていますが、批評家は、Grokのディープフェイク事件は、潜在的な危害に適切に対処できていないことを示していると主張しています。

この訴訟は、AIによって生成されたコンテンツと、デジタル時代における自身の肖像を管理する権利に関する将来の法的闘争の先例となると予想されています。法学者は訴訟手続きを注意深く見守っており、その結果がAI技術の開発と規制に大きな影響を与える可能性があると予測しています。次回の審問期日はまだ設定されていません。