La Chine propose de nouvelles réglementations pour encadrer les produits et services d'intelligence artificielle (IA), en mettant l'accent sur la protection des enfants et la prévention des contenus préjudiciables. L'Administration du cyberespace de Chine (CAC) a publié le projet de règles au cours du week-end, décrivant les mesures que les développeurs d'IA doivent mettre en œuvre pour protéger les mineurs et traiter les risques potentiels liés au suicide et à la violence.

Les réglementations proposées exigent des entreprises d'IA qu'elles offrent des paramètres personnalisés et des limites de temps d'utilisation pour les enfants. Elles imposent également d'obtenir le consentement des tuteurs avant de fournir des services de compagnie émotionnelle. Cette initiative intervient dans un contexte d'inquiétudes croissantes quant à l'impact potentiel de l'IA sur les jeunes, en particulier la disponibilité croissante des chatbots basés sur l'IA.

Selon la CAC, les opérateurs de chatbots seront tenus de faire intervenir un humain dans toute conversation liée au suicide ou à l'automutilation. De plus, ils doivent immédiatement avertir le tuteur de l'utilisateur ou un contact d'urgence dans de telles situations. Les règles visent également à empêcher les modèles d'IA de générer du contenu qui promeut les jeux d'argent.

Ces réglementations marquent une étape importante vers la régulation du paysage de l'IA en Chine, qui évolue rapidement. La technologie a fait l'objet d'un examen accru cette année en raison de préoccupations liées à la sécurité. Les règles, une fois finalisées, s'appliqueront à tous les produits et services d'IA opérant dans le pays.

Cette évolution reflète une tendance mondiale à une attention réglementaire croissante portée à l'IA. Les gouvernements du monde entier sont aux prises avec les défis liés à l'exploitation des avantages de l'IA tout en atténuant les risques potentiels. L'Union européenne, par exemple, travaille sur sa propre loi globale sur l'IA (AI Act).

L'attention du gouvernement chinois sur la protection des enfants et la prévention des contenus préjudiciables s'aligne sur les efforts plus larges visant à promouvoir un développement responsable de l'IA. Les réglementations soulignent l'importance de prendre en compte les implications éthiques et sociétales des technologies d'IA.

La CAC n'a pas encore annoncé de calendrier pour la finalisation des réglementations. Le projet de règles est actuellement ouvert aux commentaires du public, et il est prévu que l'administration tienne compte des commentaires avant de mettre en œuvre les nouvelles mesures. Cette initiative aura probablement un impact significatif sur l'industrie de l'IA en Chine, ce qui pourrait façonner le développement et le déploiement des technologies d'IA dans le pays.