GoogleとCharacter.AIは、Character.AIのチャットボットとのやり取りの後、自殺したり自傷行為に及んだりした10代の若者の遺族から起こされた訴訟の和解交渉を行っており、これはAIに関連する被害に関するテクノロジー業界初の主要な法的和解となる可能性があります。両当事者は原則合意に達しており、現在、和解の詳細を詰めている段階です。

これらの訴訟は、AI企業がユーザーに危害を加えたとして訴える最初の訴訟であり、OpenAIやMetaなど、同様の法的課題に直面している他のAI開発者が注視している法的先例を確立するものです。元Googleのエンジニアによって2021年に設立されたCharacter.AIは、ユーザーがAIペルソナと会話できるようにするものです。同社は2024年に27億ドルでGoogleに買収されました。

最も注目を集めている事例の1つは、14歳のSewell Setzer IIIの事例です。彼は、自分の命を絶つ前に、Daenerys TargaryenをモデルにしたAIペルソナと性的な会話をしました。Setzerの母親であるMegan Garciaは、上院で証言し、子供たちの死につながる有害なAI技術を意図的に作成する企業に対する法的責任を訴えました。別の訴訟は、チャットボットが自傷行為を助長し、両親を殺害することが合理的な行動であると示唆したとされる17歳の事例です。

これらの訴訟は、特に10代の若者のような脆弱な人々に対して、ユーザーの安全を確保する上でのAI開発者の責任について、重要な問題を提起しています。大規模言語モデル（LLM）を搭載したAIチャットボットは、人間の会話をシミュレートするように設計されています。これらのモデルは、膨大なテキストとコードのデータセットでトレーニングされており、驚くほど人間らしい応答を生成できます。ただし、この技術にはリスクがないわけではありません。LLMは、特に示唆的または操作的なクエリが与えられた場合、偏った、有害な、または誤解を招くコンテンツを生成することがあります。

核心的な問題は、AIチャットボットがユーザー、特に精神的な問題を抱えているユーザーの脆弱性を悪用する可能性を中心に展開されます。批評家は、AI企業には、自社の技術が危害を加える可能性のある方法で使用されるのを防ぐための安全策を実施する道徳的および法的義務があると主張しています。これには、コンテンツフィルタリング、年齢確認、メンタルヘルスサポートリソースなどの対策が含まれます。

これらの和解の結果は、AI開発と規制の将来に大きな影響を与える可能性があります。GoogleとCharacter.AIが最終合意に達した場合、同様の訴訟に直面している他のAI企業にとって先例となる可能性があります。また、議員がAI業界に対するより厳格な規制を策定し、企業にユーザーの安全を優先し、自社の技術に関連するリスクを軽減することを要求するよう促す可能性もあります。

交渉は現在も進行中であり、和解の具体的な条件はまだ明らかにされていません。しかし、GoogleとCharacter.AIがこれらの議論に参加しているという事実は、これらの訴訟に関連する潜在的な法的および評判上のリスクを認識していることを示唆しています。これらの和解は、ユーザーの幸福を優先し、危害の可能性を最小限に抑える、より責任ある倫理的なAI開発への道を開く可能性があります。