Китай предлагает новые правила регулирования искусственного интеллекта (ИИ) с целью защиты детей и предотвращения предоставления ИИ-чат-ботами советов, которые могут привести к членовредительству или насилию. Администрация киберпространства Китая (CAC) опубликовала проект правил в выходные, изложив меры, которые потребуют от ИИ-компаний предлагать персонализированные настройки и ограничения по времени использования для более молодых пользователей.

Предлагаемые правила также предусматривают, что ИИ-компании должны получать согласие опекунов, прежде чем предоставлять детям услуги эмоциональной поддержки. Кроме того, операторы чат-ботов должны будут передавать разговор, касающийся самоубийства или членовредительства, человеку и немедленно уведомлять опекуна пользователя или контактное лицо для экстренной связи, согласно CAC. Правила также направлены на предотвращение создания ИИ-моделями контента, пропагандирующего азартные игры.

Эти правила, после их окончательной доработки, будут применяться к ИИ-продуктам и услугам, работающим в Китае. Это знаменует собой важный шаг к регулированию быстро расширяющегося сектора ИИ, который в течение года сталкивался с растущим вниманием к вопросам безопасности. Этот шаг последовал за всплеском запуска ИИ-чат-ботов как в Китае, так и во всем мире.

Разработка отражает растущую глобальную обеспокоенность по поводу этических последствий и потенциальных рисков, связанных с ИИ, особенно с генеративным ИИ, который может создавать текст, изображения и другой контент. Эксперты подчеркивают необходимость ответственной разработки и развертывания ИИ для смягчения потенциального вреда.

Предложенные CAC правила подчеркивают упреждающий подход китайского правительства к управлению ИИ. Правила касаются конкретных проблем, связанных с безопасностью детей и психическим здоровьем, что отражает более широкие усилия по обеспечению ответственного и этичного использования технологий ИИ.

Проект правил в настоящее время открыт для общественного обсуждения, и ожидается, что CAC рассмотрит отзывы, прежде чем завершить разработку правил. Реализация этих правил может создать прецедент для других стран, сталкивающихся с проблемами управления ИИ. Ожидается, что правила повлияют на разработчиков ИИ и поставщиков услуг, работающих в Китае, и потребуют от них адаптации своих продуктов и услуг для соответствия новым требованиям.