La Chine a proposé de nouvelles réglementations ciblant le développement de l'intelligence artificielle (IA), en mettant l'accent sur la protection des enfants et la prévention des contenus générés par l'IA qui pourraient conduire à l'automutilation ou à la violence. L'Administration du cyberespace de Chine (CAC) a publié le projet de règles au cours du week-end, décrivant les mesures que les entreprises d'IA doivent mettre en œuvre pour personnaliser les paramètres et limiter le temps d'utilisation pour les jeunes utilisateurs.

Les règles proposées abordent la prolifération rapide des chatbots d'IA en Chine et dans le monde, exigeant des développeurs qu'ils obtiennent le consentement des tuteurs avant de fournir des services d'accompagnement émotionnel. En outre, les réglementations imposent une intervention humaine dans les conversations des chatbots liées au suicide ou à l'automutilation, avec notification immédiate au tuteur ou à la personne à contacter en cas d'urgence de l'utilisateur. Les règles interdisent également aux modèles d'IA de générer du contenu qui promeut les jeux d'argent.

Ces réglementations marquent une étape importante vers la régulation du paysage de l'IA en évolution rapide en Chine, où les préoccupations concernant la sécurité et les implications éthiques se sont intensifiées. Les règles s'appliqueront aux produits et services d'IA opérant en Chine.

La démarche de la CAC reflète une tendance mondiale croissante des gouvernements à se débattre avec l'impact sociétal de l'IA. L'IA, à la base, implique la création de systèmes informatiques capables d'effectuer des tâches qui nécessitent généralement une intelligence humaine, telles que l'apprentissage, la résolution de problèmes et la prise de décision. Ces systèmes s'appuient sur des algorithmes et de grandes quantités de données pour identifier des schémas et faire des prédictions. L'IA générative, un sous-ensemble de l'IA, peut créer de nouveaux contenus, notamment du texte, des images et de l'audio, ce qui soulève des inquiétudes quant à une utilisation abusive potentielle et à la diffusion de fausses informations.

Les réglementations proposées mettent en évidence les défis liés à l'équilibre entre l'innovation et le développement responsable de l'IA. S'assurer que les systèmes d'IA sont sûrs, éthiques et bénéfiques pour la société nécessite un examen attentif des risques potentiels et la mise en œuvre de garanties appropriées. L'attention du gouvernement chinois à la protection des enfants et à la prévention des contenus préjudiciables reflète une approche proactive pour atténuer ces risques.

Le projet de règles est actuellement en cours d'examen, et la CAC n'a pas annoncé de calendrier pour sa finalisation et sa mise en œuvre. Une fois finalisées, les réglementations devraient avoir un impact significatif sur l'industrie de l'IA en Chine, influençant potentiellement le développement et le déploiement des technologies d'IA dans le monde entier.