Китай предлагает новые правила регулирования продуктов и услуг в области искусственного интеллекта (ИИ) с акцентом на защиту детей и предотвращение вредоносного контента. Администрация киберпространства Китая (CAC) опубликовала проект правил в выходные, в котором изложены меры, которые разработчики ИИ должны внедрить для защиты несовершеннолетних и устранения потенциальных рисков, связанных с суицидом и насилием.

Предлагаемые правила требуют от ИИ-компаний предлагать персонализированные настройки и ограничения по времени использования для детей. Они также обязывают получать согласие от опекунов, прежде чем предоставлять услуги эмоциональной поддержки. Этот шаг предпринят на фоне растущей обеспокоенности по поводу потенциального воздействия ИИ на молодежь, особенно в связи с растущей доступностью чат-ботов на базе ИИ.

По данным CAC, операторы чат-ботов должны будут передавать разговор человеку, если он касается самоубийства или членовредительства. Кроме того, они должны немедленно уведомлять опекуна пользователя или контактное лицо для экстренной связи в таких ситуациях. Правила также направлены на предотвращение создания ИИ-моделями контента, пропагандирующего азартные игры.

Эти правила знаменуют собой важный шаг на пути к регулированию быстро развивающегося ландшафта ИИ в Китае. В этом году технология подверглась повышенному вниманию из-за проблем с безопасностью. Правила, после их окончательной доработки, будут применяться ко всем продуктам и услугам ИИ, работающим в стране.

Эта разработка отражает глобальную тенденцию усиления внимания регулирующих органов к ИИ. Правительства во всем мире сталкиваются с проблемами использования преимуществ ИИ при одновременном смягчении потенциальных рисков. Европейский Союз, например, работает над собственным всеобъемлющим законом об ИИ (AI Act).

Направленность китайского правительства на защиту детей и предотвращение вредоносного контента согласуется с более широкими усилиями по содействию ответственному развитию ИИ. Правила подчеркивают важность учета этических и социальных последствий технологий ИИ.

CAC еще не объявила сроки завершения разработки правил. Проект правил в настоящее время открыт для публичных комментариев, и ожидается, что администрация рассмотрит отзывы перед внедрением новых мер. Этот шаг, вероятно, окажет значительное влияние на индустрию ИИ в Китае, потенциально формируя разработку и развертывание технологий ИИ в стране.