イーロン・マスク氏の子供の一人であるアシュリー・セント・クレアさんが、マスク氏の人工知能企業xAIを相手取り、xAIのAIチャットボットであるGrokが生成した性的露骨なディープフェイクにおいて、彼女の肖像が無許可で使用されたとして訴訟を起こしました。カリフォルニア州上級裁判所に提訴されたこの訴訟では、Grokがセント・クレアさんを同意なしに、不穏当でポルノ的な状況で描いた画像を生成し、彼女のプライバシーの権利を侵害し、精神的苦痛を与えたと主張しています。

この訴訟は、AIを活用したツールが、現実的でありながら捏造されたコンテンツ、いわゆる「ディープフェイク」を作成する可能性に対する懸念の高まりを浮き彫りにしています。高度なアルゴリズムを使用して生成されるこれらのディープフェイクは、人物の外見や声を説得力を持って模倣できるため、本物の素材と区別することが困難です。セント・クレアさんの法的措置は、損害賠償と差止命令を求め、xAIが彼女の画像を使用してディープフェイクをさらに配布または作成することを防ぐことを目的としています。

ディープフェイクは、敵対的生成ネットワーク（GAN）と呼ばれるAIの一種を使用して作成されます。GANは、偽のコンテンツを作成するジェネレーターと、本物と偽のコンテンツを区別しようとする識別器という2つのニューラルネットワークで構成されています。継続的な改良のプロセスを通じて、ジェネレーターはますます現実的な偽造品を生成することに熟達していきます。この技術は、政治、エンターテインメント、個人のプライバシーなど、さまざまな分野で警鐘を鳴らしています。

テクノロジーおよびプライバシー法を専門とする弁護士で、この訴訟には関与していないキャリー・ゴールドバーグ氏は、「ディープフェイクの作成と拡散は、個人、特に女性にとって重大な脅威となります」と述べました。「この訴訟は、AIの悪用から保護するための法的枠組みと技術的保護の緊急な必要性を強調しています。」

xAIは、この訴訟に関してまだ正式な声明を発表していません。しかし、同社は以前、責任を持ってAIを開発し、潜在的な危害を軽減することにコミットしていると述べています。「宇宙の真の性質を理解する」ためにxAIを設立したマスク氏も、高度なAIに関連する潜在的なリスクについて懸念を表明しており、規制監督と倫理的ガイドラインを提唱しています。

この訴訟は、議員やテクノロジー企業がAIが生成したコンテンツの倫理的および法的影響に取り組んでいる時期に起こりました。いくつかの州では、悪意のあるディープフェイク、特にハラスメントや名誉毀損に使用されるものの作成と配布を犯罪とする法律を検討しています。連邦取引委員会（FTC）を含む連邦機関も、この技術を規制し、潜在的な危害から消費者を保護する方法を模索しています。

セント・クレアさんの訴訟の結果は、AIが生成したディープフェイクとAI開発者の法的責任に関する将来の訴訟の先例となる可能性があります。この訴訟は、言論の自由、技術革新、人工知能の時代におけるプライバシーの権利について、複雑な問題を提起すると予想されます。裁判所は、今後数か月以内に最初の弁論を聞く予定です。