Китай предлагает новые правила регулирования продуктов и услуг в сфере искусственного интеллекта (ИИ), уделяя особое внимание защите детей и предотвращению вредоносного контента. Администрация киберпространства Китая (CAC) опубликовала проект правил в выходные дни, в котором изложены меры по защите детей от потенциальных рисков, связанных с ИИ, и по предотвращению предоставления чат-ботами советов, которые могут привести к членовредительству или насилию.

Предлагаемые правила потребуют от ИИ-компаний предлагать персонализированные настройки и ограничения по времени использования для детей. Кроме того, ИИ-компаниям потребуется получить согласие опекунов, прежде чем предоставлять услуги эмоциональной поддержки несовершеннолетним. Правила также касаются вопроса контента, созданного ИИ, оговаривая, что модели ИИ не должны генерировать контент, пропагандирующий азартные игры.

Согласно CAC, операторы чат-ботов должны будут передавать разговор, касающийся самоубийства или членовредительства, человеку. Эти операторы также должны будут немедленно уведомить опекуна пользователя или контактное лицо для экстренной связи в таких ситуациях.

Решение о регулировании ИИ принято на фоне резкого увеличения числа чат-ботов, запускаемых как в Китае, так и во всем мире. Быстрое развитие технологий ИИ вызвало обеспокоенность по поводу безопасности и потенциального злоупотребления, что побудило правительства во всем мире рассмотреть нормативно-правовую базу. После завершения разработки эти правила будут применяться ко всем продуктам и услугам ИИ, работающим в Китае. Это знаменует собой важный шаг на пути к регулированию быстрорастущей технологии.

Проект правил отражает растущее осознание потенциальных рисков, связанных с ИИ, особенно для уязвимых групп населения, таких как дети. Требуя согласия родителей и вводя ограничения по времени, правила направлены на смягчение потенциального негативного воздействия ИИ на развитие и благополучие детей. Акцент на предотвращении пропаганды ИИ вредной деятельности, такой как азартные игры и членовредительство, подчеркивает приверженность правительства обеспечению ответственного и этичного использования ИИ.

Предложенные CAC правила в настоящее время находятся на стадии проекта, и ожидается, что они будут подвергнуты дальнейшему рассмотрению и пересмотру до того, как будут окончательно доработаны и реализованы. За разработкой внимательно следят разработчики ИИ, технологические компании и политики во всем мире, поскольку она может создать прецедент для регулирования ИИ в других странах.