China propone nuevas regulaciones para regir los productos y servicios de inteligencia artificial (IA), con un enfoque en la protección de los niños y la prevención de contenido dañino. La Administración del Ciberespacio de China (CAC) publicó el borrador de las normas durante el fin de semana, en el que se esbozan medidas para proteger a los niños y abordar los posibles riesgos asociados a las interacciones impulsadas por la IA.

Las regulaciones propuestas se dirigen a los desarrolladores de IA, exigiéndoles que implementen configuraciones personalizadas y límites de tiempo de uso para los usuarios más jóvenes. Además, las empresas de IA tendrían que obtener el consentimiento de los tutores antes de ofrecer servicios de compañía emocional a los niños. Las normas también pretenden evitar que los modelos de IA generen contenidos que promuevan los juegos de azar, lo que refleja una preocupación más amplia sobre el potencial de la IA para ser utilizada de forma perjudicial para la sociedad.

Una disposición clave aborda el riesgo de que los chatbots de IA proporcionen consejos que puedan conducir a la autolesión o la violencia. Según las normas propuestas, los operadores de chatbots estarían obligados a que un humano se haga cargo de cualquier conversación relacionada con el suicidio o la autolesión. El operador también tendría que notificar inmediatamente al tutor del usuario o a un contacto de emergencia, según la CAC.

Estas regulaciones se producen en medio de un rápido aumento del número de chatbots de IA que se lanzan tanto en China como a nivel mundial. La medida señala un esfuerzo significativo para regular el sector de la IA, de rápido crecimiento, que se ha enfrentado a un escrutinio cada vez mayor en relación con las preocupaciones de seguridad. Una vez finalizadas, las normas se aplicarán a todos los productos y servicios de IA que operen en China.

Este desarrollo pone de relieve el creciente debate mundial en torno a las implicaciones éticas de la IA y la necesidad de marcos regulatorios para mitigar los riesgos potenciales. A medida que la tecnología de la IA se vuelve más sofisticada y se integra en la vida cotidiana, los gobiernos y las organizaciones se enfrentan al reto de garantizar su desarrollo y despliegue responsables. Las regulaciones chinas representan un enfoque para abordar estos desafíos, centrándose en áreas específicas de preocupación como la seguridad infantil y la prevención de contenido dañino. La CAC aún no ha anunciado un calendario para la finalización e implementación del borrador de las normas.