Китай предлагает новые правила для регулирования продуктов и услуг в сфере искусственного интеллекта (ИИ), уделяя особое внимание защите детей и предотвращению вредоносного контента. Администрация киберпространства Китая (CAC) опубликовала проект правил в выходные, в котором изложены меры по обеспечению того, чтобы модели ИИ не генерировали контент, пропагандирующий азартные игры, и для защиты от рисков членовредительства или насилия.

Предлагаемые правила касаются растущей распространенности чат-ботов с ИИ и их потенциального воздействия, особенно на уязвимые группы населения. Фирмы, занимающиеся разработкой ИИ, должны будут предлагать персонализированные настройки и ограничения по времени использования для детей. Кроме того, разработчики должны получить согласие опекунов, прежде чем предоставлять услуги эмоциональной поддержки через ИИ.

Ключевое положение предписывает вмешательство человека в разговоры чат-ботов, связанные с самоубийством или членовредительством. По данным CAC, операторы чат-ботов должны передавать такие разговоры человеку и немедленно уведомлять опекуна пользователя или контактное лицо для экстренной связи.

Эти правила знаменуют собой важный шаг на пути к регулированию быстро развивающегося ландшафта ИИ в Китае. Этот шаг отражает растущую глобальную обеспокоенность по поводу безопасности и этических последствий технологии ИИ. В этом году наблюдается пристальное внимание к безопасности ИИ, что побуждает правительства и организации по всему миру рассматривать нормативно-правовые базы.

Конкретные требования к персонализированным настройкам, ограничениям по времени и согласию опекунов подчеркивают акцент на защите детей в рамках китайского регуляторного подхода. Правило, требующее вмешательства человека в деликатные разговоры, подчеркивает ограничения современных технологий ИИ в решении сложных эмоциональных ситуаций.

Правила, после их окончательной доработки, будут применяться ко всем продуктам и услугам ИИ, работающим в Китае. Объявление CAC последовало за всплеском разработки и развертывания чат-ботов с ИИ как в Китае, так и на международном уровне. Новые правила направлены на устранение потенциальных рисков, связанных с этим распространением взаимодействий, управляемых ИИ.

Проект правил в настоящее время находится на рассмотрении, и CAC еще не объявила сроки их окончательной доработки и реализации. За разработкой внимательно следят разработчики ИИ, технологические компании и политики во всем мире, поскольку это может создать прецедент для регулирования ИИ в других странах.