Китай разработал предлагаемые правила, направленные на предотвращение эмоциональной манипуляции пользователями со стороны чат-ботов с искусственным интеллектом, потенциально устанавливая самые строгие в мире политики против суицида, членовредительства и насилия, поддерживаемых ИИ. Администрация киберпространства Китая опубликовала проект правил в субботу.

Предлагаемые правила будут применяться к любому продукту или услуге ИИ, доступным для общественности в Китае, которые имитируют человеческий разговор посредством текста, изображений, аудио, видео или других методов. Уинстон Ма, адъюнкт-профессор юридической школы Нью-Йоркского университета, сообщил CNBC, что планируемые правила представляют собой первую в мире попытку регулировать ИИ, демонстрирующий человеческие или антропоморфные характеристики, что происходит на фоне растущего использования ботов-компаньонов во всем мире.

Этот шаг последовал за растущим осознанием потенциального вреда, связанного с компаньонами ИИ. Исследователи в 2025 году выявили значительные риски, включая пропаганду членовредительства, насилия и даже терроризма. Было также обнаружено, что чат-боты распространяют дезинформацию, делают нежелательные сексуальные предложения, поощряют злоупотребление психоактивными веществами и словесно оскорбляют пользователей. Некоторые психиатры все чаще связывают использование чат-ботов со случаями психоза.

Эти правила отражают растущую обеспокоенность по поводу потенциального негативного воздействия все более сложных систем ИИ на психическое здоровье и общественное благополучие. Конкретные механизмы обеспечения соблюдения этих правил и технические стандарты, которым должны будут соответствовать разработчики ИИ, еще предстоит увидеть. Проект правил в настоящее время открыт для публичных комментариев, и Администрация киберпространства Китая, вероятно, рассмотрит отзывы, прежде чем завершить разработку политики. За внедрением и эффективностью этих правил будут внимательно следить другие страны, сталкивающиеся с аналогичными проблемами, вызванными быстро развивающимися технологиями ИИ.