La Chine a proposé de nouvelles réglementations ciblant le développement de l'intelligence artificielle (IA), en mettant l'accent sur la protection des enfants et la prévention des contenus nuisibles liés au suicide et à la violence. L'Administration du cyberespace de Chine (CAC) a publié le projet de règles au cours du week-end, décrivant des mesures qui obligeraient les entreprises d'IA à mettre en œuvre des paramètres personnalisés et des limites de temps d'utilisation, ainsi qu'à obtenir le consentement des tuteurs avant d'offrir des services d'accompagnement émotionnel aux mineurs.

Les réglementations proposées répondent à une préoccupation croissante concernant les risques potentiels associés à l'IA, en particulier les chatbots, qui ont proliféré en Chine et dans le monde entier. Les règles visent à garantir que les modèles d'IA ne génèrent pas de contenu qui encourage les jeux d'argent, et elles exigent une intervention humaine dans les conversations de chatbot impliquant le suicide ou l'automutilation. Dans de tels cas, les opérateurs doivent immédiatement informer le tuteur de l'utilisateur ou un contact d'urgence, selon la CAC.

Une fois finalisées, ces règles s'appliqueront à tous les produits et services d'IA opérant en Chine, marquant une étape importante vers la réglementation de cette technologie en évolution rapide. Cette initiative intervient dans un contexte de surveillance accrue de la sécurité de l'IA et des considérations éthiques à l'échelle mondiale.

Les réglementations reflètent une approche proactive visant à atténuer les dommages potentiels associés à l'IA, en particulier en ce qui concerne les populations vulnérables comme les enfants. En exigeant le consentement parental et en fixant des limites d'utilisation, le gouvernement chinois vise à fournir une couche de protection contre les impacts négatifs potentiels des interactions basées sur l'IA.

Le projet de règles est ouvert aux commentaires du public, et la CAC devrait examiner les commentaires avant de finaliser les réglementations. Le calendrier spécifique de mise en œuvre reste incertain, mais l'annonce signale une intention claire d'établir un cadre réglementaire pour le développement de l'IA en Chine. Cette initiative pourrait créer un précédent pour d'autres pays confrontés aux défis de la gouvernance de l'IA et de la garantie de son utilisation responsable.