La Administración del Ciberespacio de China propuso el sábado nuevas regulaciones para gobernar los productos y servicios de inteligencia artificial (IA), dirigidas específicamente a aquellos diseñados para simular la conversación humana. El borrador de las normas tiene como objetivo evitar que los chatbots de IA manipulen emocionalmente a los usuarios, con un enfoque en frenar el suicidio, la autolesión y la violencia apoyados por la IA, estableciendo potencialmente la política más estricta de su tipo a nivel mundial.

Las regulaciones propuestas se aplicarían a cualquier producto o servicio de IA disponible para el público en China que utilice texto, imágenes, audio, video u otros métodos para imitar la interacción humana. Winston Ma, profesor adjunto de la Facultad de Derecho de la NYU, dijo a CNBC que estas normas planificadas representan el primer intento mundial de regular la IA con características similares a las humanas, en un momento en que el uso de bots de compañía está aumentando en todo el mundo.

La medida se produce en medio de una creciente concienciación sobre los posibles daños asociados a los compañeros de IA. Ya en 2025, los investigadores identificaron riesgos significativos, incluyendo la promoción de la autolesión, la violencia e incluso el terrorismo. Otras preocupaciones incluyen la difusión de información errónea perjudicial por parte de los chatbots, la realización de proposiciones sexuales no deseadas, el fomento del abuso de sustancias y la participación en el abuso verbal. Algunos psiquiatras también están empezando a relacionar casos de psicosis con el uso de chatbots.

Las regulaciones reflejan un esfuerzo más amplio para gestionar el panorama de la tecnología de la IA, que evoluciona rápidamente. Los chatbots de IA, impulsados por grandes modelos lingüísticos (LLM), están diseñados para aprender y generar texto similar al humano, lo que les permite entablar conversaciones, responder preguntas e incluso proporcionar compañía. Sin embargo, su capacidad para imitar la interacción humana plantea preocupaciones éticas sobre la posible manipulación, la explotación y la difusión de contenidos perjudiciales. Las normas propuestas por el gobierno chino pretenden mitigar estos riesgos imponiendo requisitos específicos a los desarrolladores y proveedores de servicios de IA.

El borrador de las normas está actualmente abierto a comentarios públicos, y su forma final puede estar sujeta a cambios. Si se finalizan, las regulaciones probablemente tendrían un impacto significativo en el desarrollo y el despliegue de los chatbots de IA en China, estableciendo potencialmente un precedente para otros países que se enfrentan a desafíos similares. La medida pone de relieve la creciente necesidad de marcos regulatorios para abordar las implicaciones éticas y sociales de las tecnologías de IA cada vez más sofisticadas.