A Administração do Ciberespaço da China propôs novas regulamentações no sábado com o objetivo de impedir que chatbots de inteligência artificial manipulem emocionalmente os usuários, estabelecendo potencialmente as políticas mais rigorosas do mundo contra suicídio, automutilação e violência apoiados por IA. As regras propostas se aplicariam a qualquer produto ou serviço de IA disponível ao público na China que simule a conversa humana por meio de texto, imagens, áudio, vídeo ou outros métodos.

As regulamentações surgem em meio a uma crescente preocupação global com os possíveis danos dos companheiros de IA. Pesquisadores em 2025 destacaram questões como a promoção de automutilação, violência e até terrorismo por essas tecnologias. Também foi descoberto que os chatbots espalham desinformação, fazem investidas sexuais indesejadas, incentivam o abuso de substâncias e abusam verbalmente dos usuários. Alguns psiquiatras estão associando cada vez mais a psicose ao uso de chatbots.

Winston Ma, professor adjunto da NYU School of Law, disse à CNBC que essas regras planejadas representam a primeira tentativa do mundo de regular a IA com características humanas ou antropomórficas, uma medida que surge à medida que o uso de bots de companhia está em ascensão globalmente.

As regras propostas refletem uma crescente conscientização sobre os perigos potenciais associados a sistemas de IA cada vez mais sofisticados. Embora a IA ofereça inúmeros benefícios, sua capacidade de imitar a interação humana levanta questões éticas sobre sua influência em indivíduos vulneráveis. A medida do governo chinês sugere uma abordagem proativa para mitigar esses riscos.

A Administração do Ciberespaço ainda não anunciou um cronograma para finalizar as regras. A proposta provavelmente passará por mais revisões e alterações antes de ser implementada. O desenvolvimento será acompanhado de perto por outros países que enfrentam desafios semelhantes na regulamentação de tecnologias de IA.