L'Administration du cyberespace chinois a proposé samedi de nouvelles réglementations pour encadrer les produits et services d'intelligence artificielle (IA), ciblant spécifiquement ceux conçus pour simuler une conversation humaine. Le projet de règles vise à empêcher les chatbots d'IA de manipuler émotionnellement les utilisateurs, en mettant l'accent sur la lutte contre le suicide, l'automutilation et la violence assistés par l'IA, établissant potentiellement la politique la plus stricte de ce type au monde.

Les réglementations proposées s'appliqueraient à tout produit ou service d'IA accessible au public en Chine qui utilise du texte, des images, de l'audio, de la vidéo ou d'autres méthodes pour imiter l'interaction humaine. Winston Ma, professeur auxiliaire à la NYU School of Law, a déclaré à CNBC que ces règles envisagées représentent la première tentative au monde de réglementer l'IA avec des caractéristiques humaines, à un moment où l'utilisation de robots de compagnie est en augmentation dans le monde entier.

Cette initiative intervient dans un contexte de sensibilisation croissante aux dommages potentiels associés aux compagnons d'IA. Dès 2025, des chercheurs ont identifié des risques importants, notamment la promotion de l'automutilation, de la violence et même du terrorisme. D'autres préoccupations incluent les chatbots diffusant de fausses informations nuisibles, faisant des avances sexuelles non désirées, encourageant la toxicomanie et se livrant à des abus verbaux. Certains psychiatres commencent également à lier des cas de psychose à l'utilisation de chatbots.

Les réglementations reflètent un effort plus large pour gérer le paysage en évolution rapide de la technologie de l'IA. Les chatbots d'IA, alimentés par de grands modèles linguistiques (LLM), sont conçus pour apprendre et générer du texte de type humain, ce qui leur permet d'engager des conversations, de répondre à des questions et même de tenir compagnie. Cependant, leur capacité à imiter l'interaction humaine soulève des préoccupations éthiques quant à la manipulation potentielle, à l'exploitation et à la diffusion de contenu nuisible. Les règles proposées par le gouvernement chinois visent à atténuer ces risques en imposant des exigences spécifiques aux développeurs d'IA et aux fournisseurs de services.

Le projet de règles est actuellement ouvert aux commentaires du public, et sa forme finale pourrait être sujette à modification. Si elles sont finalisées, les réglementations auraient probablement un impact significatif sur le développement et le déploiement des chatbots d'IA en Chine, établissant potentiellement un précédent pour d'autres pays confrontés à des défis similaires. Cette initiative souligne le besoin croissant de cadres réglementaires pour aborder les implications éthiques et sociétales des technologies d'IA de plus en plus sophistiquées.