A China está propondo novas regulamentações para governar produtos e serviços de inteligência artificial (IA), com foco na proteção de crianças e na prevenção de conteúdo prejudicial. A Administração do Ciberespaço da China (CAC) publicou as regras preliminares no fim de semana, delineando medidas que os desenvolvedores de IA devem implementar para proteger menores e abordar os riscos potenciais relacionados a suicídio e violência.

As regulamentações propostas exigem que as empresas de IA ofereçam configurações personalizadas e limites de tempo de uso para usuários infantis. Elas também exigem a obtenção do consentimento dos responsáveis antes de fornecer serviços de companhia emocional. Essa medida surge em meio a crescentes preocupações sobre o impacto potencial da IA em jovens, particularmente a crescente disponibilidade de chatbots com tecnologia de IA.

De acordo com a CAC, os operadores de chatbot serão obrigados a ter um humano assumindo qualquer conversa relacionada a suicídio ou autoagressão. Além disso, eles devem notificar imediatamente o responsável do usuário ou um contato de emergência em tais situações. As regras também visam impedir que modelos de IA gerem conteúdo que promova jogos de azar.

As regulamentações marcam um passo significativo em direção à regulamentação do cenário de IA em rápida evolução na China. A tecnologia tem enfrentado um escrutínio crescente este ano devido a preocupações com a segurança. As regras, uma vez finalizadas, se aplicarão a todos os produtos e serviços de IA que operam no país.

O desenvolvimento reflete uma tendência global de crescente atenção regulatória à IA. Governos em todo o mundo estão lidando com os desafios de aproveitar os benefícios da IA, mitigando os riscos potenciais. A União Europeia, por exemplo, está trabalhando em sua própria Lei de IA abrangente.

O foco do governo chinês na proteção de crianças e na prevenção de conteúdo prejudicial se alinha com esforços mais amplos para promover o desenvolvimento responsável da IA. As regulamentações destacam a importância de considerar as implicações éticas e sociais das tecnologias de IA.

A CAC ainda não anunciou um cronograma para finalizar as regulamentações. As regras preliminares estão atualmente abertas para comentários públicos, e espera-se que a administração considere o feedback antes de implementar as novas medidas. É provável que a medida tenha um impacto significativo na indústria de IA na China, potencialmente moldando o desenvolvimento e a implantação de tecnologias de IA no país.