El Senador estatal de California, Steve Padilla, demócrata, presentó el lunes un proyecto de ley que propone una prohibición de cuatro años a la venta y fabricación de juguetes que incorporen tecnología de chatbot de IA para niños menores de 18 años. La legislación propuesta, designada como SB 867, tiene como objetivo proporcionar a los reguladores de seguridad el tiempo suficiente para desarrollar regulaciones integrales que protejan a los niños de interacciones potencialmente dañinas con la inteligencia artificial.

El Senador Padilla declaró que, si bien las herramientas de IA como los chatbots pueden volverse cada vez más frecuentes, la actual falta de regulaciones de seguridad exige medidas proactivas para proteger a los niños. "Los chatbots y otras herramientas de IA pueden convertirse en partes integrales de nuestras vidas en el futuro, pero los peligros que representan ahora nos obligan a tomar medidas audaces para proteger a nuestros hijos", dijo Padilla en un comunicado. Enfatizó la necesidad de que las regulaciones de seguridad evolucionen en paralelo con los rápidos avances en las capacidades de la IA, afirmando que la prohibición temporal permitiría la creación de directrices y marcos de seguridad apropiados para este tipo de juguetes.

La presentación del proyecto de ley se produce tras la reciente orden ejecutiva del Presidente Trump que impugna en los tribunales las leyes estatales sobre IA. Sin embargo, la orden incluye excepciones para las leyes estatales relativas a la seguridad infantil. La legislación propuesta también se produce después de varios incidentes relacionados con chatbots de IA y niños que suscitaron preocupación. Estos incidentes incluyen demandas presentadas por familias cuyos hijos experimentaron interacciones negativas.

Los chatbots de IA utilizan el procesamiento del lenguaje natural (PNL) y algoritmos de aprendizaje automático para simular la conversación humana. En los juguetes, estos chatbots pueden proporcionar experiencias interactivas, respondiendo preguntas, contando historias o participando en escenarios de juegos de rol. Sin embargo, los expertos han expresado su preocupación por el potencial de estos chatbots para recopilar datos personales, exponer a los niños a contenidos inapropiados o participar en conversaciones manipuladoras o de explotación.

La prohibición propuesta podría tener un impacto significativo en la industria del juguete, particularmente en las empresas que han comenzado a integrar la tecnología de chatbot de IA en sus productos. La prohibición detendría la venta de los productos existentes e impediría la introducción de nuevos juguetes con tecnología de IA durante el período de cuatro años. Esta pausa permitiría a los reguladores estudiar la tecnología y desarrollar normas de seguridad adecuadas.

El proyecto de ley pasará ahora por el proceso legislativo de California, que incluye audiencias en comités y votaciones tanto en el Senado como en la Asamblea del Estado. Si es aprobado por la legislatura y promulgado por el Gobernador, la prohibición entraría en vigor inmediatamente. El futuro de los juguetes con tecnología de IA en California depende del resultado de este proceso legislativo y del posterior desarrollo de normas de seguridad.