China está proponiendo nuevas regulaciones para gobernar los productos y servicios de inteligencia artificial (IA), con un enfoque en la protección de los niños y la prevención de contenido dañino. La Administración del Ciberespacio de China (CAC) publicó el borrador de las reglas durante el fin de semana, delineando medidas para asegurar que los modelos de IA no generen contenido que promueva el juego, y para salvaguardar contra riesgos de autolesión o violencia.

Las reglas propuestas abordan la creciente prevalencia de los chatbots de IA y su impacto potencial, particularmente en poblaciones vulnerables. Se requerirá que las empresas de IA ofrezcan configuraciones personalizadas y límites de tiempo en el uso para los usuarios infantiles. Además, los desarrolladores deben obtener el consentimiento de los tutores antes de proporcionar servicios de compañía emocional a través de la IA.

Una disposición clave exige la intervención humana en las conversaciones de los chatbots relacionadas con el suicidio o la autolesión. Según la CAC, los operadores de chatbots deben hacer que un humano se haga cargo de tales conversaciones e informar inmediatamente al tutor del usuario o a un contacto de emergencia.

Estas regulaciones marcan un paso significativo hacia la regulación del panorama de la IA en rápida evolución en China. La medida refleja las crecientes preocupaciones globales sobre la seguridad y las implicaciones éticas de la tecnología de la IA. Este año se ha visto un intenso escrutinio de la seguridad de la IA, lo que ha impulsado a gobiernos y organizaciones de todo el mundo a considerar marcos regulatorios.

Los requisitos específicos para las configuraciones personalizadas, los límites de tiempo y el consentimiento del tutor resaltan el énfasis en la protección infantil dentro del enfoque regulatorio chino. La regla que exige la intervención humana en conversaciones delicadas subraya las limitaciones de la tecnología actual de la IA para manejar situaciones emocionales complejas.

Las regulaciones, una vez finalizadas, se aplicarán a todos los productos y servicios de IA que operen dentro de China. El anuncio de la CAC sigue a un aumento en el desarrollo y la implementación de chatbots de IA tanto en China como a nivel internacional. Las nuevas reglas tienen como objetivo abordar los riesgos potenciales asociados con esta proliferación de interacciones impulsadas por la IA.

El borrador de las reglas se encuentra actualmente en revisión, y la CAC aún no ha anunciado un cronograma para su finalización e implementación. El desarrollo está siendo observado de cerca por los desarrolladores de IA, las empresas de tecnología y los responsables políticos a nivel mundial, ya que podría sentar un precedente para la regulación de la IA en otros países.