China está proponiendo nuevas regulaciones para gobernar la inteligencia artificial (IA) con el objetivo de salvaguardar a los niños y evitar que los chatbots de IA proporcionen consejos que puedan conducir a la autolesión o la violencia. La Administración del Ciberespacio de China (CAC) publicó el borrador de las normas durante el fin de semana, esbozando medidas que exigirían a las empresas de IA ofrecer configuraciones personalizadas y límites de tiempo de uso para los usuarios más jóvenes.

Las regulaciones propuestas también estipulan que las empresas de IA deben obtener el consentimiento de los tutores antes de proporcionar servicios de compañía emocional a los niños. Además, los operadores de chatbots estarían obligados a que un humano se haga cargo de cualquier conversación relacionada con el suicidio o la autolesión y a notificar inmediatamente al tutor del usuario o a un contacto de emergencia, según la CAC. Las normas también pretenden evitar que los modelos de IA generen contenidos que promuevan el juego.

Estas regulaciones, una vez finalizadas, se aplicarán a los productos y servicios de IA que operen en China. Esto marca un paso significativo hacia la regulación del sector de la IA, que se está expandiendo rápidamente y que se ha enfrentado a un creciente escrutinio con respecto a las preocupaciones de seguridad a lo largo del año. La medida se produce tras un aumento en el lanzamiento de chatbots de IA tanto en China como a nivel mundial.

El desarrollo refleja la creciente preocupación mundial por las implicaciones éticas y los riesgos potenciales asociados a la IA, en particular la IA generativa, que puede crear texto, imágenes y otros contenidos. Los expertos hacen hincapié en la necesidad de un desarrollo y una implementación responsables de la IA para mitigar los posibles daños.

Las normas propuestas por la CAC ponen de relieve el enfoque proactivo del gobierno chino en la gobernanza de la IA. Las regulaciones abordan preocupaciones específicas relacionadas con la seguridad infantil y la salud mental, lo que refleja un esfuerzo más amplio para garantizar que las tecnologías de IA se utilicen de forma responsable y ética.

El borrador de las normas está actualmente abierto a comentarios públicos, y se espera que la CAC tenga en cuenta las opiniones antes de finalizar las regulaciones. La implementación de estas normas podría sentar un precedente para otros países que se enfrentan a los retos de la gobernanza de la IA. Se espera que las regulaciones tengan un impacto en los desarrolladores de IA y en los proveedores de servicios que operan en China, obligándoles a adaptar sus productos y servicios para cumplir con los nuevos requisitos.