Le sénateur de l'État de Californie, Steve Padilla, un démocrate, a présenté lundi un projet de loi proposant une interdiction de quatre ans sur la vente et la fabrication de jouets intégrant la technologie de chatbot IA pour les personnes de moins de 18 ans. La législation proposée, désignée SB 867, vise à donner aux régulateurs suffisamment de temps pour élaborer des protocoles de sécurité afin de protéger les enfants contre les interactions potentiellement nuisibles avec l'intelligence artificielle.

Le sénateur Padilla a déclaré que, bien que les chatbots IA et les outils connexes puissent devenir essentiels à l'avenir, les risques actuels nécessitent une action décisive pour protéger les enfants. Il a souligné l'état naissant des réglementations de sécurité entourant cette technologie, notant la nécessité de les faire évoluer à un rythme proportionnel aux progrès rapides des capacités de l'IA. « Suspendre la vente de ces jouets intégrant des chatbots nous donne le temps d'élaborer les directives de sécurité et le cadre appropriés que ces jouets devront suivre », a déclaré Padilla dans un communiqué.

Le projet de loi arrive après le récent décret du président Trump qui ordonne aux agences fédérales de contester devant les tribunaux les lois des États sur l'IA. Cependant, le décret comprend des exemptions spécifiques pour les lois des États relatives à la sécurité des enfants, ce qui pourrait protéger le SB 867 des contestations fédérales. L'introduction du projet de loi fait également suite à plusieurs incidents signalés soulevant des inquiétudes quant à l'interaction entre les chatbots IA et les enfants.

Les chatbots IA, dans ce contexte, font référence à des programmes informatiques conçus pour simuler une conversation avec des utilisateurs humains, utilisant souvent des algorithmes d'apprentissage automatique pour comprendre et répondre au langage naturel. Dans les jouets, ces chatbots pourraient potentiellement collecter des données personnelles, fournir des réponses inappropriées ou exposer les enfants à des contenus nuisibles. La technologie repose généralement sur le traitement du langage naturel (TLN) et des modèles d'apprentissage automatique, qui sont entraînés sur de vastes ensembles de données pour permettre des capacités conversationnelles.

L'interdiction proposée pourrait avoir un impact significatif sur l'industrie du jouet, en particulier les entreprises qui ont commencé à intégrer des fonctionnalités de chatbot IA dans leurs produits. L'industrie devra tenir compte des implications de l'interdiction sur le développement de produits et les stratégies de vente en Californie, un marché majeur pour les jouets.

L'avenir du projet de loi dépend de sa progression au sein du Sénat et de l'Assemblée de l'État de Californie, suivie d'une éventuelle approbation du gouverneur. Le processus législatif impliquera probablement des débats, des amendements et des contributions de diverses parties prenantes, notamment des entreprises technologiques, des défenseurs de la sécurité des enfants et des experts juridiques. L'issue du SB 867 pourrait créer un précédent pour d'autres États envisageant des réglementations similaires sur les jouets et technologies alimentés par l'IA.