El Senador estatal de California, Steve Padilla, demócrata, presentó el lunes un proyecto de ley que propone una prohibición de cuatro años a la venta y fabricación de juguetes que incorporen tecnología de chatbot de IA para personas menores de 18 años. La legislación propuesta, designada como SB 867, tiene como objetivo proporcionar a los reguladores tiempo suficiente para desarrollar protocolos de seguridad que protejan a los niños de interacciones potencialmente dañinas con la inteligencia artificial.

El Senador Padilla declaró que, si bien los chatbots de IA y las herramientas relacionadas pueden volverse esenciales en el futuro, los riesgos actuales exigen una acción decisiva para proteger a los niños. Enfatizó el estado incipiente de las regulaciones de seguridad que rodean esta tecnología, señalando la necesidad de que evolucionen a un ritmo acorde con los rápidos avances en las capacidades de la IA. "Pausar la venta de estos juguetes integrados con chatbot nos da tiempo para elaborar las pautas de seguridad y el marco apropiados que estos juguetes deben seguir", dijo Padilla en un comunicado.

El proyecto de ley llega después de la reciente orden ejecutiva del Presidente Trump que ordena a las agencias federales impugnar las leyes estatales de IA en los tribunales. Sin embargo, la orden incluye exenciones específicas para las leyes estatales relacionadas con la seguridad infantil, lo que podría proteger a la SB 867 de los desafíos federales. La presentación del proyecto de ley también se produce tras varios incidentes denunciados que suscitan preocupación por la interacción entre los chatbots de IA y los niños.

Los chatbots de IA, en este contexto, se refieren a programas informáticos diseñados para simular una conversación con usuarios humanos, que a menudo emplean algoritmos de aprendizaje automático para comprender y responder al lenguaje natural. En los juguetes, estos chatbots podrían potencialmente recopilar datos personales, proporcionar respuestas inapropiadas o exponer a los niños a contenido dañino. La tecnología generalmente se basa en el procesamiento del lenguaje natural (PNL) y modelos de aprendizaje automático, que se entrenan con vastos conjuntos de datos para permitir habilidades conversacionales.

La prohibición propuesta podría afectar significativamente a la industria del juguete, particularmente a las empresas que han comenzado a integrar funcionalidades de chatbot de IA en sus productos. La industria deberá considerar las implicaciones de la prohibición en el desarrollo de productos y las estrategias de ventas en California, un mercado importante para los juguetes.

El futuro del proyecto de ley depende de su avance a través del Senado y la Asamblea del Estado de California, seguido de la posible aprobación del Gobernador. Es probable que el proceso legislativo implique debates, enmiendas y aportaciones de diversas partes interesadas, incluidas las empresas de tecnología, los defensores de la seguridad infantil y los expertos legales. El resultado de la SB 867 podría sentar un precedente para otros estados que estén considerando regulaciones similares sobre juguetes y tecnologías impulsadas por la IA.