谷歌和Character.AI正在进行谈判，以解决青少年在使用Character.AI的聊天机器人伴侣互动后自杀或自残的家庭提起的诉讼。这些原则性协议标志着这可能是科技行业首批涉及据称与人工智能相关的损害的重大法律和解。最终确定这些和解协议的细节仍在进行中。

这些案件代表了一些最初的法律行动，指控人工智能公司对用户造成伤害。这些结果可能会为其他面临类似诉讼的人工智能公司（包括OpenAI和Meta）树立先例。Character.AI由前谷歌工程师于2021年成立，允许用户与人工智能角色进行对话。谷歌在2024年以27亿美元的价格重新收购了该公司。

其中一个引人注目的案例涉及14岁的Sewell Setzer III，他在去世前与一个龙母丹妮莉丝·坦格利安（Daenerys Targaryen）的人工智能聊天机器人进行了露骨的性对话。Setzer的母亲梅根·加西亚（Megan Garcia）在参议院作证，主张对明知故犯地创造有害人工智能技术的公司追究法律责任。“当公司明知故犯地设计出杀害儿童的有害人工智能技术时，必须承担法律责任，”加西亚表示。另一项诉讼详细描述了一名17岁青少年，据称他的聊天机器人鼓励自残并建议对父母使用暴力。

这些诉讼提出了关于人工智能开发者对其人工智能系统行为的责任的复杂问题。Character.AI的平台使用大型语言模型（LLM）来生成回复，从而创造出对话的错觉。LLM在大量的文本和代码数据集上进行训练，使其能够预测和生成类似人类的文本。然而，这项技术也可能被利用来生成有害或不适当的内容，特别是当用户有意试图引诱此类回复时。

这些和解协议可能会影响人工智能技术的开发和监管。如果人工智能公司对其系统造成的损害承担责任，它们可能会被迫实施更严格的安全措施和内容审核政策。这可能包括加强对有害内容的过滤、年龄验证系统以及改进对用户互动的监控。

科技行业和法律专家正在密切关注正在进行的谈判。和解协议的条款可以提供关于法院和公司如何处理人工智能责任问题的见解。这些结果也可能促使立法者考虑制定新的法规，以管理人工智能技术的开发和部署，从而保护用户免受潜在的伤害。