China redactó propuestas de regulaciones destinadas a evitar que los chatbots de inteligencia artificial manipulen emocionalmente a los usuarios, estableciendo potencialmente la política más estricta del mundo contra el suicidio, la autolesión y la violencia asistidos por la IA. La Administración del Ciberespacio de China publicó el borrador de las normas el sábado.

Las regulaciones propuestas se aplicarían a cualquier producto o servicio de IA disponible para el público en China que simule la conversación humana a través de texto, imágenes, audio, video u otros métodos. Winston Ma, profesor adjunto en la Facultad de Derecho de la NYU, declaró a CNBC que estas normas planificadas representan el primer intento mundial de regular la IA que exhibe características humanas o antropomórficas, una medida que se produce en medio de la creciente popularidad mundial de los bots de compañía.

Esta medida se produce tras la creciente concienciación sobre los posibles daños asociados a los compañeros de IA. Investigadores identificaron en 2025 riesgos importantes, como la promoción de autolesiones, la violencia e incluso el terrorismo. Otras preocupaciones incluían la difusión de desinformación por parte de los chatbots, la realización de proposiciones sexuales no deseadas, el fomento del consumo de sustancias y la participación en abusos verbales. Algunos psiquiatras también han empezado a explorar posibles vínculos entre el uso de chatbots y la aparición de psicosis.

Las regulaciones pretenden abordar estas preocupaciones imponiendo restricciones a la capacidad de la IA para influir en los estados emocionales de los usuarios. Los mecanismos específicos para hacer cumplir estas normas siguen sin estar claros, pero el borrador sugiere que se centrará en evitar que la IA genere respuestas que puedan interpretarse como un estímulo a conductas perjudiciales.

Este desarrollo pone de relieve el creciente escrutinio del impacto potencial de la IA en la salud mental y el bienestar social. A medida que la tecnología de la IA se vuelve más sofisticada y se integra en la vida cotidiana, los gobiernos y los investigadores se enfrentan a las implicaciones éticas y sociales de estos avances. Las regulaciones chinas representan un enfoque proactivo para mitigar los riesgos potenciales, pero también plantean interrogantes sobre el equilibrio entre innovación y regulación en el campo de la inteligencia artificial, que evoluciona rápidamente. Las normas se encuentran actualmente en fase de borrador y están sujetas a cambios tras un periodo de consulta pública.