China está proponiendo nuevas regulaciones para gobernar la inteligencia artificial (IA) con el objetivo de salvaguardar a los niños y evitar que los chatbots de IA proporcionen consejos que puedan conducir a la autolesión o la violencia. La Administración del Ciberespacio de China (CAC) publicó el borrador de las normas durante el fin de semana, esbozando medidas que requerirían que las empresas de IA ofrezcan configuraciones personalizadas y límites de tiempo en el uso, así como obtener el consentimiento de los tutores antes de proporcionar servicios de compañía emocional.

Las regulaciones planificadas también requerirán que los desarrolladores se aseguren de que sus modelos de IA no generen contenido que promueva el juego. El anuncio se produce tras un aumento significativo en el número de chatbots de IA que se lanzan tanto en China como a nivel mundial. Una vez finalizadas, estas normas se aplicarán a todos los productos y servicios de IA que operen dentro de China.

La medida marca un paso significativo hacia la regulación de la tecnología de IA, que está creciendo rápidamente y que se ha enfrentado a un escrutinio cada vez mayor con respecto a las preocupaciones de seguridad a lo largo del año. La CAC enfatizó la necesidad de la intervención humana en las conversaciones de los chatbots relacionadas con el suicidio o la autolesión, exigiendo que los operadores tengan a un humano que se haga cargo de tales conversaciones y notifiquen inmediatamente al tutor del usuario o a un contacto de emergencia.

Estas regulaciones reflejan las crecientes preocupaciones globales sobre los riesgos potenciales asociados con los sistemas de IA cada vez más sofisticados. La IA, en su esencia, implica la creación de sistemas informáticos capaces de realizar tareas que normalmente requieren inteligencia humana, como el aprendizaje, la resolución de problemas y la toma de decisiones. La IA generativa, un subconjunto de la IA, puede crear contenido nuevo, incluyendo texto, imágenes y audio, basado en los datos con los que ha sido entrenada. Esta capacidad ha llevado a la proliferación de chatbots y otras aplicaciones impulsadas por la IA.

Las implicaciones de estas regulaciones se extienden más allá de las fronteras de China, influyendo potencialmente en el desarrollo y la implementación de las tecnologías de IA en todo el mundo. El enfoque en la protección de los niños y el abordaje de los riesgos para la salud mental destaca las consideraciones éticas que se están volviendo cada vez más centrales en el debate sobre la IA. A medida que la IA continúa evolucionando, los gobiernos y las organizaciones están lidiando con el desafío de equilibrar la innovación con la necesidad de mitigar los daños potenciales.

El borrador de las normas se encuentra actualmente en revisión, y la CAC aún no ha anunciado un calendario para su finalización e implementación. Los mecanismos específicos para hacer cumplir estas regulaciones y las posibles sanciones por incumplimiento aún están por verse. Sin embargo, las normas propuestas señalan una clara intención por parte del gobierno chino de asumir un papel proactivo en la configuración del futuro de la IA y garantizar su desarrollo responsable.