A China propôs novas regulamentações visando o desenvolvimento da inteligência artificial (IA), com foco na proteção infantil e na prevenção de conteúdo prejudicial relacionado a suicídio e violência. A Administração do Ciberespaço da China (CAC) publicou o projeto de regras no fim de semana, delineando os requisitos para as empresas de IA que operam no país.

As regulamentações propostas abordam a crescente prevalência de chatbots com tecnologia de IA e seu impacto potencial em populações vulneráveis. Os desenvolvedores serão obrigados a implementar configurações personalizadas e limites de tempo para crianças que usam produtos de IA. Além disso, as regras exigem a obtenção do consentimento dos pais ou responsáveis antes de fornecer serviços de companhia emocional a menores.

Uma disposição fundamental se concentra na prevenção do suicídio. De acordo com a CAC, os operadores de chatbot devem garantir a intervenção humana em qualquer conversa que indique pensamentos suicidas ou autoagressão. As regulamentações estipulam a notificação imediata do responsável do usuário ou contato de emergência em tais situações. As regras também proíbem que os modelos de IA gerem conteúdo que promova jogos de azar.

Essas medidas marcam um passo significativo em direção à regulamentação do cenário de IA em rápida evolução na China. A medida surge em meio ao crescente escrutínio global em relação à segurança e às implicações éticas das tecnologias de IA. As regulamentações se aplicarão a todos os produtos e serviços de IA oferecidos na China, uma vez finalizadas.

A ascensão de modelos de IA sofisticados, particularmente grandes modelos de linguagem (LLMs) capazes de gerar texto semelhante ao humano e participar de conversas complexas, levantou preocupações sobre o potencial uso indevido e consequências não intencionais. Os LLMs são treinados em conjuntos de dados massivos, permitindo que executem uma ampla gama de tarefas, desde responder a perguntas até criar conteúdo original. No entanto, isso também significa que eles podem ser suscetíveis a vieses presentes nos dados de treinamento e potencialmente gerar informações prejudiciais ou enganosas.

A iniciativa do governo chinês reflete uma abordagem proativa para mitigar esses riscos, particularmente em relação ao bem-estar das crianças. Ao exigir o consentimento dos pais ou responsáveis e implementar salvaguardas contra conteúdo prejudicial, as regulamentações visam criar um ambiente online mais seguro para jovens usuários. O foco na intervenção humana em casos de ideação suicida destaca a importância de combinar soluções tecnológicas com apoio humano.

O projeto de regras está atualmente em revisão, e espera-se que a CAC solicite feedback das partes interessadas do setor e do público antes de finalizar as regulamentações. A implementação dessas regras pode estabelecer um precedente para outros países que lidam com os desafios de regulamentar a IA e garantir seu desenvolvimento e implantação responsáveis. As regulamentações sinalizam um compromisso em equilibrar a inovação tecnológica com o bem-estar social e as considerações éticas.