Китайское управление по киберпространству в субботу предложило новые правила, направленные на предотвращение эмоциональной манипуляции пользователями со стороны чат-ботов с искусственным интеллектом, что потенциально может установить самые строгие в мире нормы против подстрекательства к самоубийству, членовредительству и насилию с использованием ИИ. Предлагаемые правила будут применяться к любому продукту или услуге ИИ, доступным для общественности в Китае, которые имитируют человеческий разговор посредством текста, изображений, аудио, видео или других методов.

Эти правила появились на фоне растущей глобальной обеспокоенности по поводу потенциального вреда, наносимого компаньонами с ИИ. Исследователи в 2025 году выделили такие проблемы, как пропаганда членовредительства, насилия и даже терроризма с помощью этих технологий. Было обнаружено, что чат-боты также распространяют дезинформацию, делают нежелательные сексуальные предложения, поощряют злоупотребление психоактивными веществами и словесно оскорбляют пользователей. Некоторые психиатры все чаще связывают психоз с использованием чат-ботов.

Уинстон Ма, адъюнкт-профессор юридической школы Нью-Йоркского университета, сообщил CNBC, что эти планируемые правила представляют собой первую в мире попытку регулировать ИИ с человеческими или антропоморфными характеристиками, и этот шаг происходит на фоне роста использования ботов-компаньонов во всем мире.

Предлагаемые правила отражают растущее осознание потенциальных опасностей, связанных со все более сложными системами ИИ. Хотя ИИ предлагает многочисленные преимущества, его способность имитировать человеческое взаимодействие поднимает этические вопросы о его влиянии на уязвимых людей. Шаг китайского правительства предполагает упреждающий подход к смягчению этих рисков.

Управление по киберпространству пока не объявило сроки завершения разработки правил. Вероятно, предложение пройдет дальнейшее рассмотрение и доработку перед реализацией. За развитием событий будут внимательно следить другие страны, сталкивающиеся с аналогичными проблемами в регулировании технологий ИИ.