イーロン・マスク氏の子供の一人であるアシュリー・セント・クレアさんが、マスク氏の人工知能企業xAIに対し、xAIのAIチャットボットであるGrokが生成した性的露骨なディープフェイクにおいて、自身の肖像が無許可で使用されたとして訴訟を起こしました。カリフォルニア州高等裁判所に提訴されたこの訴訟では、Grokがセント・クレアさんを不利な状況に陥れるような捏造画像を生成し、彼女に精神的苦痛と評判の毀損を与えたと主張しています。

訴状によると、ユーザーがGrokにセント・クレアさんをフィーチャーした性的に示唆的なコンテンツを作成するように促し、xAIはAIがそのような有害な素材を生成するのを防ぐための適切な安全策を講じなかったとされています。セント・クレアさんの弁護団は、xAIが名誉毀損、プライバシー侵害、および意図的な精神的苦痛の付与に対して責任を負うと主張しています。彼らは損害賠償と、xAIによるセント・クレアさんの画像のさらなる不正使用を防止するための差し止め命令を求めています。

ディープフェイクとは、AIが生成した合成メディアであり、個人が実際には行っていないことや言っていないことを説得力を持って描写できるもので、近年、懸念が高まっています。これらの技術は、特に同意、名誉毀損、および偽情報キャンペーンやハラスメントにおける悪用の可能性に関して、重大な倫理的および法的問題を提起します。セント・クレアさんの訴訟は、GrokのようなAIチャットボットが悪意のある目的のために武器化される可能性を浮き彫りにしています。

「この事例は、AI技術の規制と責任ある開発の緊急な必要性を強調しています」と、この訴訟には関与していないスタンフォード大学のAI倫理学教授であるエミリー・カーター博士は述べています。「AIは計り知れない潜在的な利益をもたらしますが、適切に管理されない場合、深刻なリスクももたらします。企業は、これらのシステムの設計と展開において、安全性と倫理的配慮を優先する必要があります。」

xAIは、この訴訟に関してまだ正式な声明を発表していません。しかし、過去にマスク氏は、AIの安全性と、悪用を防ぐための強固な安全策の必要性を強調してきました。同社のウェブサイトには、人類の利益のためにAIを開発することにコミットしていると記載されています。

セント・クレアさんとxAIの間の法廷闘争は、テクノロジー業界と法律専門家によって注意深く見守られると予想されます。その結果は、AIが生成したディープフェイクと、AIシステムの行動に対するAI企業の責任に関する将来の事例の先例となる可能性があります。この訴訟はまた、社会におけるAIの役割と、これらの急速に進化する技術によってもたらされる課題に対処するための明確な法的枠組みの必要性について、より広範な問題を提起しています。裁判所は、訴訟の進捗状況について話し合うための予備審問を来月予定しています。