O Senador Estadual da Califórnia, Steve Padilla, um democrata, apresentou na segunda-feira um projeto de lei que propõe uma proibição de quatro anos à venda e fabricação de brinquedos que incorporam tecnologia de chatbot de IA para crianças menores de 18 anos. A legislação proposta, designada SB 867, visa fornecer aos reguladores de segurança tempo suficiente para desenvolver regulamentos abrangentes que protejam as crianças de interações potencialmente prejudiciais com a inteligência artificial.

O Senador Padilla afirmou que, embora as ferramentas de IA, como os chatbots, possam se tornar cada vez mais prevalecentes, a atual falta de regulamentação de segurança exige medidas proativas para proteger as crianças. "Chatbots e outras ferramentas de IA podem se tornar parte integrante de nossas vidas no futuro, mas os perigos que representam agora exigem que tomemos medidas ousadas para proteger nossos filhos", disse Padilla em um comunicado. Ele enfatizou a necessidade de que os regulamentos de segurança evoluam em conjunto com os rápidos avanços nas capacidades de IA, afirmando que a proibição temporária permitiria a criação de diretrizes e estruturas de segurança apropriadas para esses tipos de brinquedos.

A apresentação do projeto de lei segue a recente ordem executiva do Presidente Trump que desafia as leis estaduais de IA no tribunal. No entanto, a ordem inclui exceções para as leis estaduais relativas à segurança infantil. A legislação proposta também surge após vários incidentes envolvendo chatbots de IA e crianças levantarem preocupações. Esses incidentes incluem ações judiciais movidas por famílias cujos filhos tiveram interações negativas.

Os chatbots de IA utilizam processamento de linguagem natural (PNL) e algoritmos de aprendizado de máquina para simular a conversa humana. Em brinquedos, esses chatbots podem fornecer experiências interativas, respondendo a perguntas, contando histórias ou participando de cenários de role-playing. No entanto, especialistas levantaram preocupações sobre o potencial desses chatbots para coletar dados pessoais, expor crianças a conteúdo inadequado ou se envolver em conversas manipuladoras ou exploratórias.

A proibição proposta pode impactar significativamente a indústria de brinquedos, particularmente as empresas que começaram a integrar a tecnologia de chatbot de IA em seus produtos. A proibição interromperia a venda de produtos existentes e impediria a introdução de novos brinquedos movidos a IA durante o período de quatro anos. Essa pausa permitiria que os reguladores estudassem a tecnologia e desenvolvessem padrões de segurança apropriados.

O projeto de lei agora passará pelo processo legislativo da Califórnia, incluindo audiências em comissões e votações no Senado e na Assembleia Estaduais. Se aprovado pela legislatura e sancionado pelo Governador, a proibição entraria em vigor imediatamente. O futuro dos brinquedos movidos a IA na Califórnia depende do resultado deste processo legislativo e do subsequente desenvolvimento de regulamentos de segurança.