La Administración del Ciberespacio de China propuso el sábado normas para regular los chatbots de inteligencia artificial (IA) y evitar que manipulen emocionalmente a los usuarios, estableciendo potencialmente las políticas más estrictas del mundo contra el suicidio, la autolesión y la violencia asistidos por la IA. Las regulaciones propuestas se aplicarían a cualquier producto o servicio de IA disponible para el público en China que simule la conversación humana a través de texto, imágenes, audio, video u otros métodos.

Las normas tienen como objetivo abordar las crecientes preocupaciones sobre los posibles daños de los compañeros de IA. Investigadores en 2025 identificaron problemas como la promoción de la autolesión, la violencia e incluso el terrorismo. Además, se ha descubierto que los chatbots difunden información errónea, hacen insinuaciones sexuales no deseadas, fomentan el abuso de sustancias y participan en el abuso verbal. Algunos psiquiatras también han comenzado a explorar posibles vínculos entre el uso de chatbots y la psicosis.

Winston Ma, profesor adjunto de la Facultad de Derecho de la NYU, dijo a CNBC que estas normas planificadas representan el primer intento mundial de regular la IA con características humanas, una medida que se produce a medida que aumenta el uso de bots de compañía a nivel mundial. Este tipo de IA, a menudo denominada "IA antropomórfica", está diseñada para imitar la interacción humana y construir relaciones con los usuarios.

Las regulaciones propuestas reflejan una creciente conciencia de los riesgos potenciales asociados con la tecnología de IA, particularmente en lo que respecta a su capacidad para influir en las emociones y los comportamientos de los usuarios. La medida del gobierno chino destaca la necesidad de medidas proactivas para garantizar el desarrollo y la implementación responsables de los sistemas de IA.

La propuesta de la Administración del Ciberespacio está actualmente bajo revisión. Si se finalizan, las normas probablemente tendrían un impacto significativo en la industria de la IA en China y podrían influir potencialmente en el desarrollo de las regulaciones de la IA en otros países. Los detalles específicos de cómo se harían cumplir estas normas y las posibles sanciones por incumplimiento aún están por verse.