A Administração do Ciberespaço da China propôs novas regulamentações no sábado para governar produtos e serviços de inteligência artificial (IA), visando especificamente aqueles projetados para simular a conversa humana. O projeto de regras visa impedir que chatbots de IA manipulem emocionalmente os usuários, com foco na contenção do suicídio, da autoagressão e da violência apoiados por IA, estabelecendo potencialmente a política mais rigorosa desse tipo globalmente.

As regulamentações propostas se aplicariam a qualquer produto ou serviço de IA disponível ao público na China que utilize texto, imagens, áudio, vídeo ou outros métodos para imitar a interação humana. Winston Ma, professor adjunto da NYU School of Law, disse à CNBC que essas regras planejadas representam a primeira tentativa mundial de regular a IA com características semelhantes às humanas, em um momento em que o uso de bots de companhia está aumentando em todo o mundo.

A medida surge em meio a uma crescente conscientização sobre os potenciais danos associados aos companheiros de IA. Já em 2025, os pesquisadores identificaram riscos significativos, incluindo a promoção da autoagressão, violência e até terrorismo. Outras preocupações incluem chatbots que disseminam desinformação prejudicial, fazem investidas sexuais indesejadas, incentivam o abuso de substâncias e se envolvem em abuso verbal. Alguns psiquiatras também estão começando a ligar casos de psicose ao uso de chatbots.

As regulamentações refletem um esforço mais amplo para gerenciar o cenário em rápida evolução da tecnologia de IA. Os chatbots de IA, alimentados por grandes modelos de linguagem (LLMs), são projetados para aprender e gerar texto semelhante ao humano, permitindo que eles se envolvam em conversas, respondam a perguntas e até forneçam companhia. No entanto, sua capacidade de imitar a interação humana levanta preocupações éticas sobre potencial manipulação, exploração e disseminação de conteúdo prejudicial. As regras propostas pelo governo chinês buscam mitigar esses riscos, impondo requisitos específicos aos desenvolvedores e provedores de serviços de IA.

O projeto de regras está atualmente aberto para comentários públicos, e sua forma final pode estar sujeita a alterações. Se finalizadas, as regulamentações provavelmente teriam um impacto significativo no desenvolvimento e implantação de chatbots de IA na China, potencialmente estabelecendo um precedente para outros países que enfrentam desafios semelhantes. A medida destaca a crescente necessidade de estruturas regulatórias para abordar as implicações éticas e sociais de tecnologias de IA cada vez mais sofisticadas.