A China propôs novas regulamentações visando o desenvolvimento da inteligência artificial (IA), com foco na proteção de crianças e na prevenção de conteúdo prejudicial relacionado a suicídio e violência. A Administração do Ciberespaço da China (CAC) publicou o projeto de regras no fim de semana, delineando medidas que exigiriam que as empresas de IA implementassem configurações personalizadas e limites de tempo para uso, bem como obtivessem o consentimento dos responsáveis antes de fornecer serviços de companhia emocional a menores.

As regras propostas abordam a rápida proliferação de chatbots de IA tanto na China quanto globalmente. Uma vez finalizadas, elas se aplicarão a todos os produtos e serviços de IA que operam na China, sinalizando uma etapa regulatória significativa em resposta às crescentes preocupações de segurança em torno da tecnologia. As regulamentações também estipulam que os modelos de IA não devem gerar conteúdo que promova jogos de azar.

Uma disposição fundamental se concentra na intervenção em casos de potencial autoagressão. De acordo com a CAC, os operadores de chatbot serão obrigados a ter um humano assumindo qualquer conversa relacionada a suicídio ou autoagressão. Além disso, eles devem notificar imediatamente o responsável do usuário ou um contato de emergência.

Essas regulamentações surgem em meio ao crescente escrutínio global da IA e seu potencial impacto social. A IA, em sua essência, envolve a criação de sistemas de computador capazes de realizar tarefas que normalmente exigem inteligência humana, como aprendizado, resolução de problemas e tomada de decisões. A IA generativa, um subconjunto da IA, pode criar novos conteúdos, incluindo texto, imagens e áudio, levantando preocupações sobre o potencial uso indevido e a disseminação de desinformação.

A medida do governo chinês reflete uma tendência mais ampla de governos em todo o mundo lidando com a forma de regular essa tecnologia em rápida evolução. A União Europeia, por exemplo, está trabalhando em sua própria Lei de IA abrangente. Esses esforços regulatórios visam equilibrar os benefícios potenciais da IA com a necessidade de mitigar os riscos relacionados a viés, privacidade e segurança.

O projeto de regras está atualmente aberto para comentários públicos. O cronograma específico para finalização e implementação permanece incerto, mas o anúncio ressalta a intenção da China de moldar ativamente o desenvolvimento e a implantação da IA dentro de suas fronteiras. As regulamentações podem impactar potencialmente uma ampla gama de aplicações de IA, desde ferramentas educacionais até plataformas de entretenimento, e podem servir como um modelo para outros países que consideram medidas semelhantes.