La Chine propose de nouvelles réglementations pour encadrer l'intelligence artificielle (IA) dans le but de protéger les enfants et d'empêcher les chatbots d'IA de fournir des conseils susceptibles d'entraîner des actes d'automutilation ou de violence. L'Administration du cyberespace de Chine (CAC) a publié le projet de règles au cours du week-end, décrivant des mesures qui obligeraient les entreprises d'IA à proposer des paramètres personnalisés et des limites de temps d'utilisation pour les jeunes utilisateurs.

Les réglementations proposées stipulent également que les entreprises d'IA doivent obtenir le consentement des tuteurs avant de fournir des services d'accompagnement émotionnel aux enfants. De plus, les opérateurs de chatbots seraient tenus de faire reprendre toute conversation relative au suicide ou à l'automutilation par un humain et d'en informer immédiatement le tuteur de l'utilisateur ou un contact d'urgence, selon la CAC. Les règles visent également à empêcher les modèles d'IA de générer du contenu qui encourage les jeux d'argent.

Ces réglementations, une fois finalisées, s'appliqueront aux produits et services d'IA opérant en Chine. Cela marque une étape importante vers la réglementation du secteur de l'IA, en pleine expansion, qui a fait l'objet d'une surveillance accrue concernant les problèmes de sécurité tout au long de l'année. Cette initiative fait suite à une augmentation du lancement de chatbots d'IA en Chine et dans le monde.

Ce développement reflète les préoccupations mondiales croissantes concernant les implications éthiques et les risques potentiels associés à l'IA, en particulier l'IA générative, qui peut créer du texte, des images et d'autres contenus. Les experts soulignent la nécessité d'un développement et d'un déploiement responsables de l'IA afin d'atténuer les dommages potentiels.

Les règles proposées par la CAC mettent en évidence l'approche proactive du gouvernement chinois en matière de gouvernance de l'IA. Les réglementations abordent des préoccupations spécifiques liées à la sécurité des enfants et à la santé mentale, reflétant un effort plus large visant à garantir que les technologies d'IA sont utilisées de manière responsable et éthique.

Le projet de règles est actuellement ouvert aux commentaires du public, et la CAC devrait prendre en compte les commentaires avant de finaliser les réglementations. La mise en œuvre de ces règles pourrait créer un précédent pour d'autres pays confrontés aux défis de la gouvernance de l'IA. Les réglementations devraient avoir un impact sur les développeurs d'IA et les fournisseurs de services opérant en Chine, les obligeant à adapter leurs produits et services pour se conformer aux nouvelles exigences.