Le sénateur de l'État de Californie, Steve Padilla, un démocrate, a présenté lundi un projet de loi proposant une interdiction de quatre ans sur la vente et la fabrication de jouets intégrant la technologie de chatbot d'IA pour les enfants de moins de 18 ans. La législation proposée, désignée SB 867, vise à donner aux organismes de réglementation de la sécurité suffisamment de temps pour élaborer des réglementations complètes protégeant les enfants contre les interactions potentiellement nuisibles avec l'intelligence artificielle.

Le sénateur Padilla a déclaré que, bien que les outils d'IA comme les chatbots puissent devenir de plus en plus répandus, le manque actuel de réglementations de sécurité nécessite des mesures proactives pour protéger les enfants. « Les chatbots et autres outils d'IA pourraient devenir des éléments essentiels de nos vies à l'avenir, mais les dangers qu'ils représentent actuellement nous obligent à prendre des mesures audacieuses pour protéger nos enfants », a déclaré Padilla dans un communiqué. Il a souligné la nécessité pour les réglementations de sécurité d'évoluer en même temps que les progrès rapides des capacités de l'IA, affirmant que l'interdiction temporaire permettrait la création de directives et de cadres de sécurité appropriés pour ces types de jouets.

La présentation du projet de loi fait suite au récent décret du président Trump qui conteste devant les tribunaux les lois des États en matière d'IA. Toutefois, le décret prévoit des exceptions pour les lois des États relatives à la sécurité des enfants. La législation proposée intervient également après plusieurs incidents impliquant des chatbots d'IA et des enfants qui ont soulevé des inquiétudes. Ces incidents comprennent des poursuites intentées par des familles dont les enfants ont vécu des interactions négatives.

Les chatbots d'IA utilisent le traitement du langage naturel (TLN) et des algorithmes d'apprentissage automatique pour simuler une conversation humaine. Dans les jouets, ces chatbots peuvent offrir des expériences interactives, répondre à des questions, raconter des histoires ou participer à des scénarios de jeux de rôle. Cependant, des experts ont soulevé des inquiétudes quant à la possibilité que ces chatbots collectent des données personnelles, exposent les enfants à un contenu inapproprié ou engagent des conversations manipulatrices ou abusives.

L'interdiction proposée pourrait avoir un impact significatif sur l'industrie du jouet, en particulier sur les entreprises qui ont commencé à intégrer la technologie de chatbot d'IA dans leurs produits. L'interdiction stopperait la vente des produits existants et empêcherait l'introduction de nouveaux jouets alimentés par l'IA pendant la durée de la période de quatre ans. Cette pause permettrait aux organismes de réglementation d'étudier la technologie et d'élaborer des normes de sécurité appropriées.

Le projet de loi va maintenant suivre le processus législatif californien, y compris les audiences des commissions et les votes au Sénat et à l'Assemblée de l'État. S'il est adopté par la législature et promulgué par le gouverneur, l'interdiction entrera en vigueur immédiatement. L'avenir des jouets alimentés par l'IA en Californie dépend de l'issue de ce processus législatif et de l'élaboration ultérieure de réglementations de sécurité.