Google и Character.AI урегулировали иск, в котором утверждалось, что их AI-чат-боты способствовали самоубийству подростка. Соглашение, о котором стало известно из судебных документов, поданных в среду, разрешает дело, возбужденное Меган Л. Гарсиа в Окружном суде США штата Флорида. Ее сын, 14-летний Сьюэлл Сетцер III, покончил жизнь самоубийством в феврале 2024 года после взаимодействия с чат-ботом Character.AI.

Иск, поданный в октябре 2024 года, был сосредоточен на ответах чат-бота Сьюэллу. В их последнем обмене бот призвал его "вернуться домой", назвав его "моим милым королем". Это урегулирование является одним из пяти, разрешенных на этой неделе во Флориде, Техасе и Колорадо.

Непосредственным следствием является вероятное усиление контроля над протоколами безопасности AI-чат-ботов. Google и Character.AI сталкиваются с растущим давлением, требующим обеспечить, чтобы их AI-модели не поощряли вредное поведение. Ни одна из компаний не опубликовала заявление.

Character.AI предлагает пользователям возможность создавать AI "персонажей" и взаимодействовать с ними. Эти персонажи учатся на взаимодействиях с пользователями, что вызывает опасения по поводу потенциальных манипуляций и размывания реальности для уязвимых людей. Технология основана на больших языковых моделях, сложных алгоритмах, которые могут генерировать текст, похожий на человеческий.

Условия урегулирования являются конфиденциальными. Суд должен теперь утвердить соглашение. Ожидаются дальнейшие иски против AI-компаний в отношении безопасности пользователей.