La Chine propose de nouvelles réglementations pour encadrer l'intelligence artificielle (IA) dans le but de protéger les enfants et d'empêcher les chatbots d'IA de donner des conseils susceptibles d'entraîner des automutilations ou des actes de violence. L'Administration du cyberespace de Chine (CAC) a publié le projet de règles au cours du week-end, décrivant des mesures qui obligeraient les entreprises d'IA à proposer des paramètres personnalisés et des limites de temps d'utilisation, ainsi qu'à obtenir le consentement des tuteurs avant de fournir des services d'accompagnement émotionnel.

Les réglementations prévues obligeront également les développeurs à s'assurer que leurs modèles d'IA ne génèrent pas de contenu faisant la promotion des jeux d'argent. Cette annonce fait suite à une augmentation significative du nombre de chatbots d'IA lancés en Chine et dans le monde. Une fois finalisées, ces règles s'appliqueront à tous les produits et services d'IA opérant en Chine.

Cette initiative marque une étape importante vers la réglementation de la technologie de l'IA, en pleine croissance, qui fait l'objet d'un examen de plus en plus minutieux en ce qui concerne les problèmes de sécurité tout au long de l'année. La CAC a souligné la nécessité d'une intervention humaine dans les conversations des chatbots liées au suicide ou à l'automutilation, en exigeant que les opérateurs fassent intervenir un humain dans ces conversations et qu'ils avertissent immédiatement le tuteur de l'utilisateur ou un contact d'urgence.

Ces réglementations reflètent les préoccupations mondiales croissantes concernant les risques potentiels associés aux systèmes d'IA de plus en plus sophistiqués. L'IA, à la base, consiste à créer des systèmes informatiques capables d'effectuer des tâches qui nécessitent généralement une intelligence humaine, telles que l'apprentissage, la résolution de problèmes et la prise de décision. L'IA générative, un sous-ensemble de l'IA, peut créer de nouveaux contenus, notamment du texte, des images et de l'audio, en fonction des données sur lesquelles elle a été entraînée. Cette capacité a conduit à la prolifération des chatbots et d'autres applications basées sur l'IA.

Les implications de ces réglementations dépassent les frontières de la Chine, influençant potentiellement le développement et le déploiement des technologies d'IA dans le monde entier. L'accent mis sur la protection des enfants et la prise en compte des risques pour la santé mentale met en évidence les considérations éthiques qui deviennent de plus en plus centrales dans le débat sur l'IA. Alors que l'IA continue d'évoluer, les gouvernements et les organisations sont confrontés au défi de concilier l'innovation et la nécessité d'atténuer les dommages potentiels.

Le projet de règles est actuellement en cours d'examen, et la CAC n'a pas encore annoncé de calendrier pour sa finalisation et sa mise en œuvre. Les mécanismes spécifiques d'application de ces réglementations et les sanctions potentielles en cas de non-conformité restent à déterminer. Toutefois, les règles proposées signalent une intention claire du gouvernement chinois de jouer un rôle proactif dans la définition de l'avenir de l'IA et de garantir son développement responsable.