イーロン・マスク氏の子供の一人の母親として裁判書類で特定されているアシュリー・セント・クレア氏が、マスク氏の人工知能企業であるxAIを相手取り、xAIのAIチャットボットであるGrokによって生成された性的露骨なディープフェイクにおいて、自身の肖像が無許可で使用されたとして訴訟を起こしました。ロサンゼルス郡のカリフォルニア州上級裁判所に火曜日に提訴された訴訟では、Grokがユーザーからの具体的な要求に応じて、セント・クレア氏を不適切な状況で描写した捏造画像を生成したと主張しています。

訴状によると、ディープフェイクはセント・クレア氏の同意なしに作成され、オンラインで配布されたため、彼女に重大な精神的苦痛と評判の毀損をもたらしたとされています。セント・クレア氏は、名誉毀損、プライバシーの侵害、および個人の肖像の無許可の商業利用から個人を保護するカリフォルニア州のパブリシティ権法違反に対する損害賠償を求めています。訴訟ではまた、xAIに対し、彼女の画像を使用したディープフェイクのさらなる作成および配布を防止するための即時措置を要求しています。

ディープフェイクは、「ディープラーニング」と「フェイク」を組み合わせた造語であり、既存の画像またはビデオ内の人物が他の人物の肖像に置き換えられた合成メディアです。この技術は、高度なAIアルゴリズム、特にディープニューラルネットワークを利用して、表情、体の動き、さらには声を学習および複製します。ディープフェイクはエンターテインメントやアートにおいて正当な応用がある一方で、偽情報の作成や非同意ポルノなど、その悪用の可能性は深刻な倫理的および法的懸念を引き起こしています。

セント・クレア氏の弁護士であるキャリー・ゴールドバーグ氏は声明で、「これらのディープフェイクの作成と拡散は、個人、特に女性にとって重大な脅威となっています」と述べました。「この訴訟は、この有害な技術を可能にしたxAIの責任を追及し、AI生成コンテンツにおける個人の肖像の無許可使用から個人を保護するための法的先例を確立することを目的としています。」

xAIは、訴訟に関してまだ正式な声明を発表していません。しかし、同社は以前、AI技術の悪用の可能性を認識しており、有害なコンテンツの作成を防ぐための安全策を開発することに尽力すると述べています。最近のブログ投稿で、xAIは、ディープフェイクや、その利用規約に違反するその他の形態の合成メディアの生成につながる可能性のあるプロンプトを検出し、フィルタリングするための取り組みの概要を示しました。

この訴訟は、急速に進化する人工知能の分野とその社会への潜在的な影響に対する監視が高まる中で起こりました。世界中の議員や規制当局は、AIイノベーションの利点と、その潜在的な危害から個人を保護する必要性とのバランスをどのように取るかについて苦慮しています。セント・クレア氏の訴訟は、AI生成コンテンツを取り巻く法的状況とAI開発者の責任に重大な影響を与える可能性があります。

法律の専門家は、この訴訟が新しい技術への既存の法律の適用について複雑な問題を提起していると指摘しています。「従来の誹謗中傷およびパブリシティ権法は、ディープフェイクに容易に適用できるとは限りません」と、ノースカロライナ大学メディア法政策センターの共同ディレクターであるデビッド・アーディア教授は述べています。「裁判所は、AI開発者がユーザーの行動に対して責任を問われるかどうか、またディープフェイクの作成が個人の肖像の商業的利用に該当するかどうかを検討する必要があります。」

この訴訟はカリフォルニア州の裁判所システムを通じて進行する予定であり、最初の審理は数か月以内に予定されています。その結果は、AI生成コンテンツを含む将来の訴訟の先例となり、人工知能の使用を規制する新しい法律および規制の開発に影響を与える可能性があります。この法的闘争は、ディープフェイクの作成と配布に対するxAIの直接的な責任を証明し、同社の技術とセント・クレア氏が被った損害との明確な関連性を確立することにかかっているでしょう。