China ha propuesto nuevas regulaciones dirigidas al desarrollo de la inteligencia artificial (IA), con un enfoque en la protección de los niños y la prevención de contenido dañino relacionado con el suicidio y la violencia. La Administración del Ciberespacio de China (CAC) publicó el borrador de las normas durante el fin de semana, en el que se esbozan medidas que exigirían a las empresas de IA implementar configuraciones personalizadas y límites de tiempo para el uso, así como obtener el consentimiento de los tutores antes de ofrecer servicios de compañía emocional a menores.

Las regulaciones propuestas abordan una creciente preocupación por los riesgos potenciales asociados con la IA, particularmente los chatbots, que han proliferado en China y a nivel mundial. Las normas tienen como objetivo garantizar que los modelos de IA no generen contenido que promueva el juego, y exigen la intervención humana en las conversaciones de los chatbots que involucren el suicidio o la autolesión. En tales casos, los operadores deben notificar inmediatamente al tutor del usuario o a un contacto de emergencia, según la CAC.

Una vez finalizadas, estas normas se aplicarán a todos los productos y servicios de IA que operen en China, lo que marca un paso significativo hacia la regulación de esta tecnología en rápida evolución. La medida se produce en medio de un creciente escrutinio de la seguridad de la IA y las consideraciones éticas en todo el mundo.

Las regulaciones reflejan un enfoque proactivo para mitigar los daños potenciales asociados con la IA, particularmente en lo que respecta a las poblaciones vulnerables como los niños. Al exigir el consentimiento de los padres y establecer límites de uso, el gobierno chino pretende proporcionar una capa de protección contra los posibles impactos negativos de las interacciones impulsadas por la IA.

El borrador de las normas está abierto a comentarios públicos, y se espera que la CAC revise los comentarios antes de finalizar las regulaciones. El cronograma específico para la implementación aún no está claro, pero el anuncio señala una clara intención de establecer un marco regulatorio para el desarrollo de la IA en China. La medida podría sentar un precedente para otros países que se enfrentan a los desafíos de gobernar la IA y garantizar su uso responsable.