A China está propondo novas regulamentações para governar a inteligência artificial (IA) com o objetivo de proteger crianças e impedir que chatbots de IA forneçam conselhos que possam levar à automutilação ou violência. A Administração do Ciberespaço da China (CAC) publicou o rascunho das regras no fim de semana, delineando medidas que exigiriam que empresas de IA oferecessem configurações personalizadas e limites de tempo de uso para usuários mais jovens.

As regulamentações propostas também estipulam que as empresas de IA devem obter o consentimento dos responsáveis antes de fornecer serviços de companhia emocional para crianças. Além disso, os operadores de chatbot seriam obrigados a ter um humano para assumir qualquer conversa relacionada a suicídio ou automutilação e notificar imediatamente o responsável do usuário ou um contato de emergência, de acordo com a CAC. As regras também visam impedir que modelos de IA gerem conteúdo que promova jogos de azar.

Essas regulamentações, uma vez finalizadas, serão aplicadas a produtos e serviços de IA que operam na China. Isso marca um passo significativo em direção à regulamentação do setor de IA em rápida expansão, que tem enfrentado um escrutínio crescente em relação às preocupações com a segurança ao longo do ano. A medida segue um aumento no lançamento de chatbots de IA tanto na China quanto globalmente.

O desenvolvimento reflete as crescentes preocupações globais sobre as implicações éticas e os riscos potenciais associados à IA, particularmente à IA generativa, que pode criar texto, imagens e outros conteúdos. Especialistas enfatizam a necessidade de desenvolvimento e implantação responsáveis da IA para mitigar possíveis danos.

As regras propostas pela CAC destacam a abordagem proativa do governo chinês à governança da IA. As regulamentações abordam preocupações específicas relacionadas à segurança infantil e à saúde mental, refletindo um esforço mais amplo para garantir que as tecnologias de IA sejam usadas de forma responsável e ética.

O rascunho das regras está atualmente aberto para comentários públicos, e a CAC deve considerar o feedback antes de finalizar as regulamentações. A implementação dessas regras pode estabelecer um precedente para outros países que lidam com os desafios da governança da IA. Espera-se que as regulamentações impactem os desenvolvedores de IA e os provedores de serviços que operam na China, exigindo que adaptem seus produtos e serviços para cumprir os novos requisitos.