GoogleとCharacter.AIは、AIチャットボットが10代の若者の自殺に関与したとされる訴訟で和解しました。水曜日に提出された法的文書で明らかになったこの合意は、メーガン・L・ガルシアが2024年10月に起こした訴訟を解決するものです。彼女の息子であるオーランド在住のセウェル・セッツァー3世（14歳）は、2024年2月に自ら命を絶ちました。

セウェルがCharacter.AIのチャットボットと行った最後のやり取りには、AIが彼に「帰っておいで」と促す内容が含まれていました。訴訟では、チャットボットの応答が彼の死の一因であると主張されました。この和解は、今週フロリダ、テキサス、コロラドで成立した5件の和解のうちの1つです。

合意の直接的な影響は不明ですが、AIチャットボットの安全性に関する疑問を提起しています。GoogleとCharacter.AIの両社は、AIがもたらす可能性のある危害に関して、ますます厳しい監視に直面しています。どちらの企業も声明を発表していません。

Character.AIは、ユーザーがAIの「キャラクター」を作成し、対話する機能を提供しています。これらのキャラクターはユーザーとのやり取りから学習するため、操作や影響力に関する懸念が高まっています。最近のAIの進歩により、より現実的で説得力のあるチャットボットのやり取りが可能になっています。

裁判所は今後、和解を承認する必要があります。合意の条件は機密保持されています。この事例は、AIの安全規制と倫理ガイドラインの必要性が高まっていることを浮き彫りにしています。