Китай предложил новые правила, регулирующие разработку искусственного интеллекта (ИИ), с акцентом на защиту детей и предотвращение вредоносного контента, связанного с суицидом и насилием. Администрация киберпространства Китая (CAC) опубликовала проект правил в выходные, изложив требования к ИИ-компаниям, работающим в стране.

Предлагаемые правила касаются растущей распространенности чат-ботов на базе ИИ и их потенциального воздействия на уязвимые группы населения. Разработчики должны будут внедрить персонализированные настройки и ограничения по времени для детей, использующих продукты ИИ. Кроме того, правила предписывают получение согласия опекуна перед предоставлением услуг эмоционального компаньонства несовершеннолетним.

Ключевое положение касается предотвращения самоубийств. По данным CAC, операторы чат-ботов должны обеспечивать вмешательство человека в любой разговор, указывающий на суицидальные мысли или членовредительство. Правила предусматривают немедленное уведомление опекуна пользователя или контактного лица для экстренной связи в таких ситуациях. Правила также запрещают моделям ИИ генерировать контент, пропагандирующий азартные игры.

Эти меры знаменуют собой значительный шаг на пути к регулированию быстро развивающегося ландшафта ИИ в Китае. Этот шаг происходит на фоне растущего глобального внимания к безопасности и этическим последствиям технологий ИИ. Правила будут применяться ко всем продуктам и услугам ИИ, предлагаемым в Китае, после их окончательной доработки.

Появление сложных моделей ИИ, особенно больших языковых моделей (LLM), способных генерировать человекоподобный текст и участвовать в сложных разговорах, вызвало обеспокоенность по поводу потенциального злоупотребления и непредвиденных последствий. LLM обучаются на огромных наборах данных, что позволяет им выполнять широкий спектр задач, от ответов на вопросы до создания оригинального контента. Однако это также означает, что они могут быть восприимчивы к предвзятостям, присутствующим в данных обучения, и потенциально генерировать вредоносную или вводящую в заблуждение информацию.

Инициатива китайского правительства отражает упреждающий подход к смягчению этих рисков, особенно в отношении благополучия детей. Требуя согласия родителей и внедряя меры защиты от вредоносного контента, правила направлены на создание более безопасной онлайн-среды для молодых пользователей. Акцент на вмешательстве человека в случаях суицидальных мыслей подчеркивает важность сочетания технологических решений с человеческой поддержкой.

Проект правил в настоящее время находится на рассмотрении, и ожидается, что CAC запросит отзывы у заинтересованных сторон отрасли и общественности перед окончательной доработкой правил. Реализация этих правил может создать прецедент для других стран, сталкивающихся с проблемами регулирования ИИ и обеспечения его ответственной разработки и развертывания. Правила сигнализируют о приверженности сбалансированию технологических инноваций с общественным благополучием и этическими соображениями.