China ha propuesto nuevas regulaciones dirigidas al desarrollo de la inteligencia artificial (IA), con un enfoque en la protección de los niños y la prevención de contenido dañino relacionado con el suicidio y la violencia. La Administración del Ciberespacio de China (CAC) publicó el borrador de las normas durante el fin de semana, esbozando medidas que requerirían que las empresas de IA implementen configuraciones personalizadas y límites de tiempo para el uso, así como obtener el consentimiento de los tutores antes de proporcionar servicios de compañía emocional a menores.

Las normas propuestas abordan la rápida proliferación de chatbots de IA tanto dentro de China como a nivel mundial. Una vez finalizadas, se aplicarán a todos los productos y servicios de IA que operen en China, lo que representa un paso regulatorio significativo en respuesta a las crecientes preocupaciones de seguridad en torno a la tecnología. Las regulaciones también estipulan que los modelos de IA no deben generar contenido que promueva el juego.

Una disposición clave se centra en la intervención en casos de posible autolesión. Según la CAC, los operadores de chatbots deberán hacer que un humano se haga cargo de cualquier conversación relacionada con el suicidio o la autolesión. Además, deben notificar inmediatamente al tutor del usuario o a un contacto de emergencia.

Estas regulaciones llegan en medio de un creciente escrutinio global de la IA y su potencial impacto social. La IA, en esencia, implica la creación de sistemas informáticos capaces de realizar tareas que normalmente requieren inteligencia humana, como el aprendizaje, la resolución de problemas y la toma de decisiones. La IA generativa, un subconjunto de la IA, puede crear contenido nuevo, incluyendo texto, imágenes y audio, lo que genera preocupaciones sobre el posible uso indebido y la difusión de desinformación.

La medida del gobierno chino refleja una tendencia más amplia de los gobiernos de todo el mundo que luchan por regular esta tecnología en rápida evolución. La Unión Europea, por ejemplo, está trabajando en su propia Ley de IA integral. Estos esfuerzos regulatorios tienen como objetivo equilibrar los beneficios potenciales de la IA con la necesidad de mitigar los riesgos relacionados con el sesgo, la privacidad y la seguridad.

El borrador de las normas está actualmente abierto a comentarios públicos. El cronograma específico para la finalización e implementación sigue sin estar claro, pero el anuncio subraya la intención de China de moldear activamente el desarrollo y la implementación de la IA dentro de sus fronteras. Las regulaciones podrían afectar potencialmente a una amplia gama de aplicaciones de IA, desde herramientas educativas hasta plataformas de entretenimiento, y pueden servir como modelo para otros países que estén considerando medidas similares.