Китай предложил новые правила, регулирующие разработку искусственного интеллекта (ИИ), с акцентом на защиту детей и предотвращение контента, созданного ИИ, который может привести к членовредительству или насилию. Администрация киберпространства Китая (CAC) опубликовала проект правил в выходные, изложив меры, которые фирмы, занимающиеся ИИ, должны внедрить для персонализированных настроек и ограничений по времени использования для молодых пользователей.

Предложенные правила касаются быстрого распространения ИИ-чат-ботов в Китае и во всем мире, требуя от разработчиков получать согласие опекуна, прежде чем предоставлять услуги эмоционального компаньонства. Кроме того, правила предписывают вмешательство человека в разговоры чат-ботов, касающиеся самоубийства или членовредительства, с немедленным уведомлением опекуна пользователя или контакта для экстренной связи. Правила также запрещают моделям ИИ генерировать контент, пропагандирующий азартные игры.

Эти правила знаменуют собой важный шаг на пути к регулированию быстро развивающегося ландшафта ИИ в Китае, где усилились опасения по поводу безопасности и этических последствий. Правила будут применяться к продуктам и услугам ИИ, работающим в Китае.

Шаг CAC отражает растущую глобальную тенденцию, когда правительства борются с социальным воздействием ИИ. ИИ, по своей сути, предполагает создание компьютерных систем, способных выполнять задачи, которые обычно требуют человеческого интеллекта, такие как обучение, решение проблем и принятие решений. Эти системы полагаются на алгоритмы и огромные объемы данных для выявления закономерностей и прогнозирования. Генеративный ИИ, подмножество ИИ, может создавать новый контент, включая текст, изображения и аудио, что вызывает опасения по поводу потенциального злоупотребления и распространения дезинформации.

Предложенные правила подчеркивают проблемы балансирования инноваций с ответственной разработкой ИИ. Обеспечение безопасности, этичности и полезности систем ИИ для общества требует тщательного рассмотрения потенциальных рисков и внедрения соответствующих мер защиты. Акцент китайского правительства на защите детей и предотвращении вредоносного контента отражает упреждающий подход к смягчению этих рисков.

Проект правил в настоящее время находится на рассмотрении, и CAC не объявила сроки его завершения и реализации. Ожидается, что после завершения правила окажут значительное влияние на индустрию ИИ в Китае, потенциально повлияв на разработку и развертывание технологий ИИ во всем мире.