La Chine a proposé de nouvelles réglementations ciblant le développement de l'intelligence artificielle (IA), en mettant l'accent sur la protection de l'enfance et la prévention des contenus nuisibles liés au suicide et à la violence. L'Administration du cyberespace de Chine (CAC) a publié le projet de règles au cours du week-end, décrivant les exigences pour les entreprises d'IA opérant dans le pays.

Les réglementations proposées abordent la prévalence croissante des chatbots alimentés par l'IA et leur impact potentiel sur les populations vulnérables. Les développeurs seront tenus de mettre en œuvre des paramètres personnalisés et des limites de temps pour les enfants utilisant des produits d'IA. De plus, les règles exigent l'obtention du consentement du tuteur avant de fournir des services de compagnie émotionnelle aux mineurs.

Une disposition clé se concentre sur la prévention du suicide. Selon la CAC, les opérateurs de chatbots doivent assurer une intervention humaine dans toute conversation indiquant des pensées suicidaires ou d'automutilation. Les réglementations stipulent la notification immédiate du tuteur ou du contact d'urgence de l'utilisateur dans de telles situations. Les règles interdisent également aux modèles d'IA de générer du contenu qui promeut les jeux de hasard.

Ces mesures marquent une étape importante vers la réglementation du paysage de l'IA en évolution rapide en Chine. Cette initiative intervient dans un contexte de surveillance mondiale croissante concernant la sécurité et les implications éthiques des technologies de l'IA. Les réglementations s'appliqueront à tous les produits et services d'IA offerts en Chine une fois finalisées.

L'essor de modèles d'IA sophistiqués, en particulier les grands modèles linguistiques (LLM) capables de générer du texte de type humain et d'engager des conversations complexes, a soulevé des inquiétudes quant à une utilisation abusive potentielle et à des conséquences imprévues. Les LLM sont formés sur des ensembles de données massifs, ce qui leur permet d'effectuer un large éventail de tâches, allant de la réponse à des questions à la création de contenu original. Cependant, cela signifie également qu'ils peuvent être sensibles aux biais présents dans les données d'entraînement et potentiellement générer des informations nuisibles ou trompeuses.

L'initiative du gouvernement chinois reflète une approche proactive visant à atténuer ces risques, en particulier en ce qui concerne le bien-être des enfants. En exigeant le consentement parental et en mettant en œuvre des garanties contre les contenus nuisibles, les réglementations visent à créer un environnement en ligne plus sûr pour les jeunes utilisateurs. L'accent mis sur l'intervention humaine dans les cas d'idéation suicidaire souligne l'importance de combiner les solutions technologiques avec le soutien humain.

Le projet de règles est actuellement en cours d'examen, et la CAC devrait solliciter les commentaires des acteurs de l'industrie et du public avant de finaliser les réglementations. La mise en œuvre de ces règles pourrait créer un précédent pour d'autres pays confrontés aux défis de la réglementation de l'IA et de la garantie de son développement et de son déploiement responsables. Les réglementations témoignent d'un engagement à équilibrer l'innovation technologique avec le bien-être sociétal et les considérations éthiques.