La Administración del Ciberespacio de China propuso el sábado normas para regular los productos y servicios de inteligencia artificial (IA) que simulan la conversación humana, con el objetivo de prevenir suicidios, autolesiones y violencia apoyados por la IA. El borrador de las regulaciones, si se finaliza, se aplicaría a cualquier producto o servicio de IA disponible públicamente en China que utilice texto, imágenes, audio, video u otros medios para imitar la interacción humana.

Las normas propuestas marcan lo que Winston Ma, profesor adjunto de la Facultad de Derecho de la NYU, describió a CNBC como el primer intento mundial de regular la IA con características humanas o antropomórficas. Esto se produce en un momento en que el uso de bots de compañía está aumentando a nivel mundial, lo que genera preocupación por los posibles daños.

La necesidad de tales regulaciones surge de una creciente conciencia de los posibles impactos negativos de los compañeros de IA. Ya en 2025, los investigadores identificaron riesgos importantes, incluida la promoción de autolesiones, violencia e incluso terrorismo. Otras preocupaciones incluyen que los chatbots difundan información errónea perjudicial, hagan insinuaciones sexuales no deseadas, fomenten el abuso de sustancias y participen en el abuso verbal. Algunos psiquiatras también han comenzado a explorar posibles vínculos entre el uso de chatbots y la psicosis.

Las regulaciones abordan la creciente sofisticación de los modelos de IA, en particular los modelos de lenguaje grandes (LLM), que impulsan la IA conversacional. Estos modelos se entrenan con vastos conjuntos de datos, lo que les permite generar texto similar al humano y participar en diálogos complejos. Si bien esta tecnología ofrece beneficios en áreas como el servicio al cliente y la educación, también presenta riesgos si no se gestiona adecuadamente. La medida del gobierno chino refleja un enfoque proactivo para mitigar estos riesgos.

El borrador de las normas se encuentra actualmente en revisión y está abierto a comentarios públicos. La Administración del Ciberespacio considerará los comentarios antes de finalizar e implementar las regulaciones. El desarrollo está siendo observado de cerca por desarrolladores de IA, expertos en ética y formuladores de políticas en todo el mundo, ya que podría sentar un precedente sobre cómo otros países abordan la regulación de la IA con características similares a las humanas.