A China está propondo novas regulamentações para governar produtos e serviços de inteligência artificial (IA), com foco na proteção de crianças e na prevenção de conteúdo prejudicial. A Administração do Ciberespaço da China (CAC) publicou as regras preliminares no fim de semana, delineando medidas para garantir que os modelos de IA não gerem conteúdo que promova jogos de azar e para proteger contra riscos de autoagressão ou violência.
As regras propostas abordam a crescente prevalência de chatbots de IA e seu impacto potencial, particularmente em populações vulneráveis. As empresas de IA serão obrigadas a oferecer configurações personalizadas e limites de tempo de uso para usuários infantis. Além disso, os desenvolvedores devem obter o consentimento dos responsáveis antes de fornecer serviços de companhia emocional por meio de IA.
Uma disposição fundamental exige intervenção humana em conversas de chatbot relacionadas a suicídio ou autoagressão. De acordo com a CAC, os operadores de chatbot devem ter um humano para assumir tais conversas e notificar imediatamente o responsável do usuário ou um contato de emergência.
Essas regulamentações marcam um passo significativo em direção à regulamentação do cenário de IA em rápida evolução na China. A medida reflete as crescentes preocupações globais sobre a segurança e as implicações éticas da tecnologia de IA. Este ano tem visto um intenso escrutínio da segurança da IA, levando governos e organizações em todo o mundo a considerar estruturas regulatórias.
Os requisitos específicos para configurações personalizadas, limites de tempo e consentimento dos responsáveis destacam a ênfase na proteção infantil dentro da abordagem regulatória chinesa. A regra que exige intervenção humana em conversas delicadas ressalta as limitações da tecnologia de IA atual no tratamento de situações emocionais complexas.
As regulamentações, uma vez finalizadas, se aplicarão a todos os produtos e serviços de IA que operam na China. O anúncio da CAC segue um aumento no desenvolvimento e implantação de chatbots de IA, tanto na China quanto internacionalmente. As novas regras visam abordar os riscos potenciais associados a essa proliferação de interações orientadas por IA.
As regras preliminares estão atualmente sob revisão, e a CAC ainda não anunciou um cronograma para sua finalização e implementação. O desenvolvimento está sendo acompanhado de perto por desenvolvedores de IA, empresas de tecnologia e formuladores de políticas globalmente, pois pode estabelecer um precedente para a regulamentação de IA em outros países.
Discussion
Join the conversation
Be the first to comment