Китай предлагает новые правила регулирования продуктов и услуг в сфере искусственного интеллекта (ИИ) с акцентом на защиту детей и предотвращение вредоносного контента. Администрация киберпространства Китая (CAC) опубликовала проект правил в выходные, в котором изложены меры по защите детей и устранению потенциальных рисков, связанных с взаимодействием на основе ИИ.

Предлагаемые правила нацелены на разработчиков ИИ, требуя от них внедрения персонализированных настроек и ограничений по времени использования для молодых пользователей. Кроме того, фирмам, занимающимся ИИ, потребуется получить согласие опекунов, прежде чем предлагать услуги эмоциональной поддержки детям. Правила также направлены на предотвращение создания моделями ИИ контента, пропагандирующего азартные игры, что отражает более широкую обеспокоенность по поводу потенциального использования ИИ способами, которые могут нанести ущерб обществу.

Ключевое положение касается риска предоставления чат-ботами ИИ советов, которые могут привести к членовредительству или насилию. Согласно предлагаемым правилам, операторы чат-ботов должны будут передавать разговор, касающийся самоубийства или членовредительства, человеку. Оператор также должен будет немедленно уведомить опекуна пользователя или контактное лицо для экстренной связи, согласно CAC.

Эти правила появляются на фоне быстрого увеличения числа чат-ботов с ИИ, запускаемых как в Китае, так и во всем мире. Этот шаг сигнализирует о значительных усилиях по регулированию быстрорастущего сектора ИИ, который сталкивается с растущим вниманием к вопросам безопасности. После завершения доработки правила будут применяться ко всем продуктам и услугам ИИ, работающим в Китае.

Это событие подчеркивает растущие глобальные дебаты вокруг этических последствий ИИ и необходимости нормативно-правовой базы для смягчения потенциальных рисков. По мере того как технология ИИ становится все более сложной и интегрируется в повседневную жизнь, правительства и организации пытаются обеспечить ее ответственное развитие и развертывание. Китайские правила представляют собой один из подходов к решению этих проблем, ориентированный на конкретные области, такие как безопасность детей и предотвращение вредоносного контента. CAC пока не объявила сроки завершения и реализации проекта правил.