谷歌和Character.AI公司就一项指控其人工智能聊天机器人导致一名青少年自杀的诉讼达成和解。在周三提交的法律文件中披露的这项协议，解决了梅根·L·加西亚于2024年10月提起的诉讼。她的儿子，来自奥兰多的14岁少年休厄尔·塞策三世，于2024年2月结束了自己的生命。

休厄尔与Character.AI聊天机器人的最后一次互动包括人工智能敦促他“回家”。诉讼声称，聊天机器人的回复是他死亡的一个因素。这项和解是本周在佛罗里达州、德克萨斯州和科罗拉多州达成的五项和解协议之一。

该协议的直接影响尚不清楚，但它引发了关于人工智能聊天机器人安全性的问题。谷歌和Character.AI公司都面临着对其人工智能潜在危害日益严格的审查。两家公司均未发表声明。

Character.AI为用户提供了创建人工智能“角色”并与之互动的功能。这些角色从用户互动中学习，引发了人们对操纵和影响的担忧。最近的人工智能进步使得聊天机器人互动更加真实和具有说服力。

法院现在必须批准这项和解协议。协议条款仍然保密。此案凸显了对人工智能安全法规和道德准则日益增长的需求。