Китай предложил новые правила, регулирующие разработку искусственного интеллекта (ИИ), с акцентом на защиту детей и предотвращение вредоносного контента, связанного с суицидом и насилием. Администрация киберпространства Китая (CAC) опубликовала проект правил в выходные дни, в котором изложены меры, требующие от ИИ-компаний внедрения персонализированных настроек и ограничений по времени использования, а также получения согласия опекуна перед предоставлением услуг эмоциональной поддержки несовершеннолетним.
Предлагаемые правила касаются быстрого распространения ИИ-чат-ботов как в Китае, так и во всем мире. После окончательной доработки они будут применяться ко всем ИИ-продуктам и услугам, работающим в Китае, что является важным нормативным шагом в ответ на растущие опасения по поводу безопасности, связанные с этой технологией. Правила также предусматривают, что модели ИИ не должны генерировать контент, пропагандирующий азартные игры.
Ключевое положение посвящено вмешательству в случаях потенциального причинения вреда самому себе. Согласно CAC, операторы чат-ботов должны будут передавать разговор, связанный с самоубийством или членовредительством, человеку. Кроме того, они должны немедленно уведомить опекуна пользователя или контактное лицо для экстренной связи.
Эти правила появляются на фоне растущего глобального внимания к ИИ и его потенциальному воздействию на общество. ИИ, по своей сути, предполагает создание компьютерных систем, способных выполнять задачи, которые обычно требуют человеческого интеллекта, такие как обучение, решение проблем и принятие решений. Генеративный ИИ, подмножество ИИ, может создавать новый контент, включая текст, изображения и аудио, что вызывает опасения по поводу потенциального злоупотребления и распространения дезинформации.
Шаг китайского правительства отражает более широкую тенденцию, когда правительства во всем мире пытаются регулировать эту быстро развивающуюся технологию. Европейский Союз, например, работает над своим собственным всеобъемлющим законом об ИИ. Эти нормативные усилия направлены на то, чтобы сбалансировать потенциальные выгоды ИИ с необходимостью смягчения рисков, связанных с предвзятостью, конфиденциальностью и безопасностью.
Проект правил в настоящее время открыт для публичных комментариев. Конкретные сроки завершения и реализации остаются неясными, но это объявление подчеркивает намерение Китая активно формировать разработку и развертывание ИИ в пределах своих границ. Правила могут потенциально повлиять на широкий спектр приложений ИИ, от образовательных инструментов до развлекательных платформ, и могут служить моделью для других стран, рассматривающих аналогичные меры.
Discussion
Join the conversation
Be the first to comment