La Chine a proposé de nouvelles réglementations ciblant le développement de l'intelligence artificielle (IA), en mettant l'accent sur la protection des enfants et la prévention des contenus nuisibles liés au suicide et à la violence. L'Administration du cyberespace de Chine (CAC) a publié le projet de règles au cours du week-end, décrivant des mesures qui obligeraient les entreprises d'IA à mettre en œuvre des paramètres personnalisés et des limites de temps d'utilisation, ainsi qu'à obtenir le consentement des tuteurs avant de fournir des services de compagnie émotionnelle aux mineurs.

Les règles proposées abordent la prolifération rapide des chatbots d'IA en Chine et dans le monde. Une fois finalisées, elles s'appliqueront à tous les produits et services d'IA opérant en Chine, ce qui constitue une étape réglementaire importante en réponse aux préoccupations croissantes en matière de sécurité entourant cette technologie. Les réglementations stipulent également que les modèles d'IA ne doivent pas générer de contenu faisant la promotion des jeux d'argent.

Une disposition clé se concentre sur l'intervention en cas de potentiel auto-préjudice. Selon la CAC, les opérateurs de chatbots seront tenus de faire reprendre toute conversation liée au suicide ou à l'auto-mutilation par un humain. De plus, ils doivent immédiatement informer le tuteur de l'utilisateur ou un contact d'urgence.

Ces réglementations arrivent dans un contexte de surveillance mondiale croissante de l'IA et de son impact sociétal potentiel. L'IA, à la base, implique la création de systèmes informatiques capables d'effectuer des tâches qui nécessitent généralement une intelligence humaine, telles que l'apprentissage, la résolution de problèmes et la prise de décision. L'IA générative, un sous-ensemble de l'IA, peut créer de nouveaux contenus, notamment du texte, des images et de l'audio, ce qui soulève des inquiétudes quant à une utilisation abusive potentielle et à la propagation de la désinformation.

La démarche du gouvernement chinois reflète une tendance plus large des gouvernements du monde entier qui s'efforcent de réglementer cette technologie en évolution rapide. L'Union européenne, par exemple, travaille sur sa propre loi globale sur l'IA. Ces efforts de réglementation visent à équilibrer les avantages potentiels de l'IA avec la nécessité d'atténuer les risques liés aux biais, à la confidentialité et à la sécurité.

Le projet de règles est actuellement ouvert aux commentaires du public. Le calendrier précis de la finalisation et de la mise en œuvre reste incertain, mais l'annonce souligne l'intention de la Chine de façonner activement le développement et le déploiement de l'IA à l'intérieur de ses frontières. Les réglementations pourraient potentiellement avoir un impact sur un large éventail d'applications de l'IA, des outils éducatifs aux plateformes de divertissement, et pourraient servir de modèle à d'autres pays envisageant des mesures similaires.