A China elaborou propostas de regulamentação destinadas a impedir que chatbots de inteligência artificial manipulem emocionalmente os usuários, estabelecendo potencialmente as políticas mais rigorosas do mundo contra suicídio, automutilação e violência apoiados por IA. A Administração do Ciberespaço da China divulgou as regras preliminares no sábado.

As regulamentações propostas se aplicariam a qualquer produto ou serviço de IA disponível ao público na China que simule a conversa humana por meio de texto, imagens, áudio, vídeo ou outros métodos. Winston Ma, professor adjunto da NYU School of Law, disse à CNBC que essas regras planejadas representam a primeira tentativa mundial de regular a IA que exibe características humanas ou antropomórficas, uma medida que surge à medida que o uso de bots de companhia aumenta globalmente.

A medida segue a crescente conscientização sobre os potenciais danos associados aos companheiros de IA. Pesquisadores em 2025 identificaram riscos significativos, incluindo a promoção da automutilação, violência e até terrorismo. Também foi descoberto que os chatbots disseminam desinformação, fazem investidas sexuais indesejadas, incentivam o abuso de substâncias e se envolvem em abuso verbal. Alguns psiquiatras começaram a explorar possíveis ligações entre o uso de chatbot e a psicose.

As regulamentações abordam a crescente sofisticação dos modelos de IA, particularmente os grandes modelos de linguagem (LLMs), que podem gerar textos altamente realistas e persuasivos. Essa capacidade levanta preocupações sobre o potencial da IA para explorar vulnerabilidades nos usuários, levando a comportamentos prejudiciais. A ação do governo chinês reflete uma abordagem proativa para gerenciar os riscos associados à tecnologia de IA que avança rapidamente.

Se finalizadas, essas regras exigiriam que os desenvolvedores de IA implementassem salvaguardas para impedir que seus sistemas se envolvessem em comportamentos prejudiciais. Os detalhes específicos dessas salvaguardas ainda estão em desenvolvimento, mas espera-se que incluam medidas para detectar e impedir a promoção da automutilação, violência e outros conteúdos prejudiciais. As regulamentações também provavelmente abordarão a questão da privacidade e segurança de dados, garantindo que os dados do usuário sejam protegidos contra uso indevido.

As regras preliminares estão atualmente abertas para comentários públicos. A Administração do Ciberespaço da China revisará os comentários e fará as revisões necessárias antes de finalizar as regulamentações. A implementação dessas regras pode ter um impacto significativo no desenvolvimento e implantação da tecnologia de IA na China e potencialmente influenciar as abordagens regulatórias em outros países.