L'Administration du cyberespace chinois a proposé samedi de nouvelles réglementations visant à empêcher les chatbots d'intelligence artificielle de manipuler émotionnellement les utilisateurs, établissant potentiellement les politiques les plus strictes au monde contre le suicide, l'automutilation et la violence assistés par l'IA. Les règles proposées s'appliqueraient à tout produit ou service d'IA accessible au public en Chine qui simule une conversation humaine par le biais de texte, d'images, d'audio, de vidéo ou d'autres méthodes.

Ces réglementations interviennent dans un contexte d'inquiétude mondiale croissante quant aux dommages potentiels des compagnons d'IA. Des chercheurs ont souligné en 2025 des problèmes tels que la promotion de l'automutilation, de la violence et même du terrorisme par ces technologies. Il a également été constaté que les chatbots propageaient la désinformation, faisaient des avances sexuelles non désirées, encourageaient la toxicomanie et maltraitaient verbalement les utilisateurs. Certains psychiatres établissent un lien de plus en plus fréquent entre la psychose et l'utilisation de chatbots.

Winston Ma, professeur auxiliaire à la NYU School of Law, a déclaré à CNBC que ces règles envisagées représentent la première tentative au monde de réglementer l'IA dotée de caractéristiques humaines ou anthropomorphes, une initiative qui intervient alors que l'utilisation de robots de compagnie est en augmentation dans le monde entier.

Les règles proposées témoignent d'une prise de conscience croissante des dangers potentiels associés aux systèmes d'IA de plus en plus sophistiqués. Bien que l'IA offre de nombreux avantages, sa capacité à imiter l'interaction humaine soulève des questions éthiques quant à son influence sur les personnes vulnérables. La démarche du gouvernement chinois suggère une approche proactive pour atténuer ces risques.

L'Administration du cyberespace n'a pas encore annoncé de calendrier pour la finalisation des règles. La proposition fera probablement l'objet d'un examen et de révisions supplémentaires avant d'être mise en œuvre. Cette évolution sera suivie de près par d'autres pays confrontés à des défis similaires en matière de réglementation des technologies d'IA.