La Chine propose de nouvelles réglementations pour encadrer les produits et services d'intelligence artificielle (IA), en mettant l'accent sur la protection des enfants et la prévention des contenus préjudiciables. L'Administration du cyberespace de Chine (CAC) a publié le projet de règles au cours du week-end, décrivant les mesures visant à protéger les enfants et à traiter les risques potentiels associés aux interactions basées sur l'IA.
Les réglementations proposées ciblent les développeurs d'IA, en leur demandant de mettre en œuvre des paramètres personnalisés et des limites de temps d'utilisation pour les jeunes utilisateurs. De plus, les entreprises d'IA devraient obtenir le consentement des tuteurs avant d'offrir des services de compagnie émotionnelle aux enfants. Les règles visent également à empêcher les modèles d'IA de générer du contenu qui promeut les jeux d'argent, reflétant des préoccupations plus larges quant au potentiel de l'IA à être utilisée d'une manière qui pourrait être préjudiciable à la société.
Une disposition clé aborde le risque que les chatbots d'IA fournissent des conseils susceptibles de conduire à l'automutilation ou à la violence. En vertu des règles proposées, les opérateurs de chatbots seraient tenus de faire intervenir un humain dans toute conversation liée au suicide ou à l'automutilation. L'opérateur devrait également aviser immédiatement le tuteur de l'utilisateur ou un contact d'urgence, selon la CAC.
Ces réglementations interviennent dans un contexte d'augmentation rapide du nombre de chatbots d'IA lancés en Chine et dans le monde. Cette initiative signale un effort important pour réglementer le secteur de l'IA en pleine croissance, qui est confronté à un examen de plus en plus minutieux concernant les problèmes de sécurité. Une fois finalisées, les règles s'appliqueront à tous les produits et services d'IA opérant en Chine.
Ce développement met en évidence le débat mondial croissant sur les implications éthiques de l'IA et la nécessité de cadres réglementaires pour atténuer les risques potentiels. À mesure que la technologie de l'IA devient plus sophistiquée et intégrée à la vie quotidienne, les gouvernements et les organisations s'efforcent de garantir son développement et son déploiement responsables. Les réglementations chinoises représentent une approche pour relever ces défis, en se concentrant sur des domaines de préoccupation spécifiques tels que la sécurité des enfants et la prévention des contenus préjudiciables. La CAC n'a pas encore annoncé de calendrier pour la finalisation et la mise en œuvre du projet de règles.
Discussion
Join the conversation
Be the first to comment